Literatur

Die Macht der Computer und die Ohnmacht der Vernunft 1977
Kurs auf den Eisberg 1984 / 1987
Computermacht und Gesellschaft 2001

zur Person

J. Weizenbaum ist Informatiker und einer der ersten populären Kritiker der Künstlichen Intelligenz. Er ist berühmt für seine Eliza, ein Programm mit welchem er einen Psychotherapeuten simmulierte.

Anmerkungen

J.Weizenbaum hat ein weitverbreitetes Buch geschrieben, in dem eigenartigerweise ”nichts anderes behauptet wird, als dies: dass erstens der Mensch keine Maschine ist (...)” (Weizenbaum,1978,10). RT:30

Eliza, einer "Automatin", die einen Psychoanalytiker imitiert, ist es so gleichgültig als Mensch behandelt zu werden, dass der Informatiker J.Weizenbaum, der "sie" produziert hatte, sie sogar gefährlich findet. Aber auch J.Weizenbaum beklagt nicht die unentwickelte (primitive) Vorstellung, wonach Menschen mit Maschinen sprechen können, er beklagt nur, dass die meisten Menschen, "die mit ihr (mit Eliza) ein Gespräch führten (!), die höchst bemerkenswerte Illusion hatten, es (das Programm) sei mit Verständnis begabt (...)" (Weizenbaum,1978,134).RT:30

J.Weizenbaum, der Angst davor hat, dass uns die Computer über den Kopf wachsen, argumentiert bezüglich des ”immer besseren Verstehens” sehr vorsichtig. Indem er N.Wiener sagen lässt: ”Es ist gut möglich, dass wir aus prinzipiellen Gründen keine Maschine zu bauen vermögen, deren Verhaltenskomponenten wir nicht früher oder später verstehen können” (Weizenbaum,1978,306), schliesst aber auch er wenigstens nicht prinzipiell aus, dass wir auch unsere komplexesten Maschinen schliesslich verstehen 32

J.Weizenbaum schreibt: ”Ein Regelsystem - das heisst, eine Anzahl von Regeln, die dem Spieler exakt vorschreiben, wie er sich verhalten muss - wird als effektives Verfahren bezeichnet” (Weizenbaum,1978,74). Wenn er zwischen den beschreibenden Regeln und dem beschriebenen Verfahren unterscheiden würde, müsste er sagen, dass die Regeln ein effektives Verfahren beschreiben. 43

Wer ein Floss oder ein Schiff hat und zum ersten Mal ein Ruder sieht, erkennt im vollen Sinne des Wortes, dass es ein Ruder ist. Man muss keineswegs schon gerudert haben oder gar Rudern können, um, wie etwa J.Weizenbaum argumentiert, ”ein Ruder wirklich als Ruder (zu) sehen” (Weizenbaum,1978,36). 48

Die sogenannten ”tools” der Informatiker (tool ist das englische Wort für Werkzeug) sind in diesem Sinne sicher keine Werkzeuge, die Uhr erfüllt das Kriterium ”Energie abgeben” nur sehr bedingt, was der eigentliche Grund dafür ist, dass sie beispielsweise auch von J.Weizenbaum als ”autonome Maschine” bezeichnet wird (Weizenbaum,1978,45). 66

Das Erfordernis, eine derartige Maschine zu erfinden, besteht, weil anschauliche Beispiele in der Praxis tatsächlich fehlen. Wir müssen die Maschine aber nicht neu erfinden; J.Weizenbaum, von dem das Beispiel mit der Stösselstange stammt, hat die entwickeltere, explizite Variante der Ventilsteuerung bereits ”entworfen” (Weizenbaum,1978,68). 77

Das konstruktive Prinzip der sogenannten Turing-Maschine erläutert J.Weizenbaum anhand eines ”Tonbandgerätes”, das in Abhängigkeit der auf dem Band gespeicherten Töne das Band vorwärts oder rückwärts bewegt und weiter Töne aufnimmt, respektive vorhandene Töne ersetzt (Weizenbaum,1978,85ff). 83

Dem Theoretiker gilt deshalb Turings, dem Praktiker von Neumanns Beschreibung als entscheidender Durchbruch: ”Es war einer der grössten Triumphe der menschlichen Intelligenz, als 1936 der englische Mathematiker AlanM.Turing beweisen konnte, dass der Bau einer solchen Maschine möglich ist” (Weizenbaum, 1978, 88); 84 fv

Das der Sache nach überaus wichtige Buch über Die Macht der Computer von J.Weizenbaum (1978) ist - implizit oder unbewusst - dem Missverständnis, das Menschen als formale IPS (information processing system) mit Maschinen gleichsetzt, gewidmet. 100

Die Aussage von J.Weizenbaum, dass auch diese Maschinen eher mit Symbolen manipulieren als rechnen (Weizenbaum,1977,107), wirft allenfalls ein Licht darauf, was wir tun, wenn wir rechnen. 123

Auch J.Weizenbaum ist diesbezüglich undeutlich. Er findet ”in der Volksweisheit ein implizites, wenngleich deutliches Verständnis davon, dass einer der Aspekte der Maschine mit der Übertragung von Informationen und nicht von materieller Kraft zu tun hat” (Weizenbaum,1978,67). Das Volk weiss nicht erst, seit es Computer gibt, dass man mit Maschinen kommunizieren kann, es weiss aber auch, dass das Telefon nur mit der materiellen Kraft Strom funktioniert. 136

J.Weizenbaum, der auch häufig diffus von einem Zeichensystem spricht, vertritt eine sehr formale Sichtweise: ”Eine formale Sprache ist ein Spiel. Das ist keine blosse Metapher (...)” (Weizenbaum, 1978,79). 156

Die Eindeutigkeit der Abbildung zeigt sich vor allem in einer Transformationsmaschine: ”Sobald wir eine Maschine dieser Art haben, sind wir berechtigt, unser Zeichensystem (kursiv, RT) eine Sprache zu nennen, weil wir damit eine Verkörperung deren Transformationsregeln haben” (Weizenbaum, 1978,88). 157

J.Weizenbaum, von dem diese Ikarus-Interpretation stammt, meint sogar, Ikarus sei eigens dazu abgestürzt, die Ingenieure davor zu warnen, das Fliegen den Vögeln gleichtun zu wollen. Er unterscheidet einen Simulationsmodus, in welchem die Konstruktion auf Nachahmungder Natur beruht, voneinem vielerfolgreicheren Performanzmodus, in welchem die Ingenieure die Konstruktion ausschliesslich vom verfolgten Zweck der Maschine ableiten (Weizenbaum,1978, 220). 199

Das Verstehen der Natur ist für Ingenieure, die an Performanz interessiert sind, ”nur insofern notwendig, als es diese erleichtern würde” (Weizenbaum,1978, 220f). 200

Während sich die Flugzeugingenieure heute konstruktiv nicht mehr so sehr um das Fliegen der Vögel kümmern und eindeutig im Performanzmodus arbeiten, arbeiten viele ihrer Kollegen in der KI-Forschung immer noch unter dem Simulationsmodus daran, wie sie was vom Menschen kopieren können (vgl. Weizenbaum, 1978,220f). 200

Obgleich man diese Ansicht (dass Computer dasselbe machen wie automatische Tischrechner) auf einer rein formalen Ebene vertreten kann, ist es jedoch zweckmässiger, den Computer im Prinzip als eine Maschine anzusehen, die mit Symbolen manipuliert” (Weizenbaum, 1978,107). 203

J. Weizenbaum schreibt von einer Maschine, die Macken hatte und dann plötzlich wieder funktioniert, weil sie kurz geschüttelt wurde, und fährt fort: ”Wenn wir von dieser Maschine abhängig sind, so sind wir Diener eines Gesetzes geworden, das wir nicht kennen können, also die Diener eines unberechenbaren Gesetzes. Und das ist es dann, was uns so unruhig macht” (Weizenbaum, 1978,67). Jedes Flugzeug und jedes Auto zeigt unerklärliches Verhalten, das uns begründete Sorgen macht, aber zu Götter machen wir sie deshalb nicht. 206

Lord Kelvin hat geschrieben: ”Ich bin erst dann zufrieden, wenn ich von einer Sache ein mechanisches Modell herstellen kann. Bin ich dazu in der Lage, dann kann ich sie verstehen” (zit: Weizenbaum, 1978,307). Man sollte dem Lord nicht vorwerfen, dass er von ”mechanischen” Modellen gesprochen hat, sie waren zu seiner Zeit einfach die entwickelsten. In bezug auf Computer gilt ganz zweifellos, dass man sie nicht verstanden hat, wenn man sie nicht modellieren kann. 215

Die Formulierung eines Programms gleicht somit eher der Schöpfung einer Bürokratie als der Konstruktion einer Maschine von der Art, wie Lord Kelvin (247) sie verstand" (248). Diese konkrete Formulierung stammt von J.Weizenbaum (Weizenbaum,1978, 308), sie ist aber sinngemäss sehr verbreitet.vJ.Weizenbaum liess sich von O.Selfridge darüber belehren, dass die nicht-mathematischen Spiele, also jene, die wir nur spielen, sehr selten auf vollständigen und konsistenten Regelsystemen beruhen (Weizenbaum, 1978,71). 225