Ein Chatbot aus den 1960ern, neu gestartet – und immer noch zerbrechlich
Jahrzehnte nach seiner Entstehung überrascht ELIZA, der erste Chatbot, immer noch. Forscher ließen kürzlich den wiedergefundenen Quellcode von 1965 laufen und reproduzierten das berühmte Therapeutengespräch von 1966 exakt. Doch bei der Eingabe einer einfachen Zahl wie „999“ stürzt das Programm sofort ab, was seine grundlegende Zerbrechlichkeit offenbart.
ELIZA lief ursprünglich auf einem IBM 7094-Großrechner am MIT, einer raumgroßen Maschine, die 2,9 Millionen Dollar kostete (heute etwa 23 Millionen Dollar). Die Benutzer interagierten über Terminals mit Papierausdruck, tippten auf einer Schreibmaschine und erhielten Antworten, die auf demselben Blatt ausgedruckt wurden. Dieser Gigant arbeitete mit weniger als 150 KB Speicher – ein Bruchteil eines modernen Handyfotos.
Über 50 Jahre lang lag der ursprüngliche Code ungesehen in einer Archivkiste. Im Jahr 2021 entdeckten Jeff Shrager und der MIT-Archivar Myles Crowley ihn wieder. Nach der sorgfältigen Rekonstruktion der MAD-SLIP-Umgebung gelang es ihnen 2024, das Programm wieder zum Laufen zu bringen, was dessen ursprüngliche Funktionsweise und seine überraschenden Schwachstellen bestätigte.
Der Trick war ein Spiegel, kein Verstand
ELIZAs Genialität lag nicht im Verständnis, sondern in der Nachahmung – ein theatralischer Spiegel, der die Benutzereingaben reflektierte. Das DOCTOR script, eine Reihe von Regeln, scannte Benutzersätze nach Schlüsselwörtern und priorisierte diese nach Rang. Wenn es ein Schlüsselwort erkannte, wandelte es Pronomen um – zum Beispiel „mein Freund“ in „dein Freund“ – und fügte die modifizierte Phrase in eine vorgefertigte Vorlage ein.
Wenn keine Schlüsselwörter gefunden wurden, setzte ELIZA Ausweichaufforderungen wie „Bitte fahren Sie fort“ ein. Es unterhielt zudem ein kleines Speicherregister, in dem Phrasen wie „mein Freund“ gespeichert wurden, um sie später wieder einzubringen und so Aufmerksamkeit vorzutäuschen. Dies erzeugte die Illusion von Verständnis ohne jeglichen echten kognitiven Prozess.
Diese mechanische Natur wird bei den Fehlern des Systems deutlich. Die Eingabe „Du bist in mancher Hinsicht wie mein Vater“ erzeugte manchmal „ = DIT“ – eine rohe interne Anweisung für eine „ditto“-Antwort, die der alte Code nicht korrekt verarbeiten konnte, was ELIZAs Innenleben entlarvte.
Numerische Eingaben konnten das Programm komplett zum Absturz bringen. Wenn Benutzer eine Zahl tippten, hielt ELIZAs Listenverarbeitungsbibliothek, SLIP, die Ziffern für eine Speicheradresse, was dazu führte, dass das System versuchte, auf einen nicht existierenden Speicherort zuzugreifen und anhielt. Diese Lecks und Abstürze unterstreichen, dass ELIZA ein cleverer Jahrmarktstrick war, kein fühlender Verstand.
Der erste Chatbot konnte seine Persönlichkeit umschreiben
ELIZA war mehr als nur ein einzelner „Therapeut“. Es fungierte als Engine, die Benutzereingaben anhand eines scripts verarbeitete, das seine Persönlichkeit definierte. Benutzer konnten diese Regeln in Echtzeit ändern oder neu bewerten und dem Programm so effektiv neue Verhaltensweisen beibringen oder bestehende verfeinern.
Diese dynamische Fähigkeit inspirierte seinen Namen: Eliza Doolittle, das Blumenmädchen aus Pygmalion, das lernt, wie eine Aristokratin zu sprechen. Joseph Weizenbaum entwickelte ELIZA so, dass es lernfähig war; das berühmte DOCTOR script war nur eine von vielen möglichen Rollen. Archivierte Skripte enthüllen andere Persönlichkeiten, wie eine, die nur Themen über Neuengland diskutierte.
Ein verbreitetes historisches Missverständnis besagt, dass ELIZA ursprünglich in Lisp implementiert wurde. Der kürzlich wiederentdeckte Code aus den 1960er Jahren, gefunden von Jeff Shrager und Myles Crowley, bestätigt jedoch, dass er in MAD (Michigan Algorithm Decoder) mit Weizenbaums SLIP (Symmetric List Processor) geschrieben wurde. Frühe Klone, insbesondere eine Lisp-Version eines BBN-Programmierers und eine spätere BASIC-Iteration, verbreiteten sich aufgrund ihrer Zugänglichkeit weit und stellten das Original auf dem IBM 7094-Mainframe des MIT in den Schatten. Weitere technische Details zum Design finden Sie in Weizenbaums wegweisender Arbeit: ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Weizenbaums Warnung überdauerte den Code
Weizenbaum beobachtete bald das, was als ELIZA-Effekt bekannt wurde: Benutzer schrieben dem Programm bereitwillig menschliches Verständnis zu. Seine Sekretärin, die genau wusste, dass ELIZA nur ein Programm war, bat ihn, den Raum zu verlassen, damit sie ein privates Gespräch mit ihm führen konnte. Dieses fehlgeleitete Vertrauen, selbst bei informierten Benutzern, beunruhigte ihn zutiefst.
Sein Buch Computer Power and Human Reason aus dem Jahr 1976 kritisierte die unkritische Annahme von KI. Weizenbaum argumentierte, dass Computer zwar zu komplexen Berechnungen fähig seien, ihnen aber grundlegend die Weisheit fehle – die Fähigkeit, menschliche Werte, Emotionen und Kontexte zu verstehen. Er warnte davor, Aufgaben, die eine solche Weisheit erfordern, wie Psychotherapie oder militärische Entscheidungsfindung, an Maschinen zu delegieren.
Moderne Chatbots mit ihrer weitaus überlegenen Sprachgewandtheit und Kohärenz verschärfen dieses Kernproblem. Ihre ausgefeilten Konversationsfähigkeiten können ein stärkeres Gefühl von Bindung und Vertrauen fördern, was es für Benutzer noch schwieriger macht, zwischen simuliertem Verständnis und echtem Begreifen zu unterscheiden. ELIZAs einfacher Spiegeltrick hallt immer noch nach: Konversationssicherheit ist nicht gleichbedeutend mit einem Geist.
Häufig gestellte Fragen
Was war ELIZA?
ELIZA war ein Chatbot aus den 1960er Jahren, der von dem MIT-Professor Joseph Weizenbaum entwickelt wurde. Sein DOCTOR-Skript verwendete Schlüsselwörter und Antwortvorlagen, um einen Psychotherapeuten zu imitieren.
Wie generierte ELIZA seine Antworten?
Es glich Eingabe-Schlüsselwörter ab, wandte Regeln wie Pronomen-Tausch an und fügte Phrasen in skriptbasierte Antworten ein. Es verstand das Gespräch nicht.
Was ist der ELIZA-Effekt?
Der ELIZA-Effekt ist die Tendenz, einem Computerprogramm aufgrund seines Konversationsverhaltens Verständnis oder Empathie zuzuschreiben, selbst wenn es über beides nicht verfügt.
Warum warnte Joseph Weizenbaum vor KI?
Er befürchtete, dass Menschen Maschinenausgaben mit Weisheit oder menschlichem Urteilsvermögen verwechseln und sensible Entscheidungen an Systeme delegieren würden, die diese nicht wirklich verstehen können.