Un chatbot des années 1960, redémarré — et toujours aussi fragile
Des décennies après sa création, ELIZA, le premier chatbot, surprend encore. Des chercheurs ont récemment exécuté son code source de 1965 retrouvé, reproduisant exactement sa célèbre conversation de thérapeute de 1966. Pourtant, lorsqu'on lui présente une simple saisie numérique comme "999", le programme plante instantanément, révélant sa fragilité sous-jacente.
ELIZA fonctionnait à l'origine sur un ordinateur central IBM 7094 au MIT, une machine de la taille d'une pièce coûtant 2,9 millions de dollars (environ 23 millions de dollars aujourd'hui). Les utilisateurs interagissaient via des terminaux à impression papier, tapant sur une machine à écrire et recevant des réponses imprimées sur la même feuille. Ce mastodonte fonctionnait avec moins de 150 Ko de mémoire, une fraction de la taille d'une photo de téléphone moderne.
Pendant plus de 50 ans, le code original est resté invisible dans une boîte d'archives. En 2021, Jeff Shrager et l'archiviste du MIT Myles Crowley l'ont déterré. Après avoir méticuleusement reconstruit son environnement MAD-SLIP, ils ont réussi à faire fonctionner à nouveau le programme en 2024, confirmant son fonctionnement d'origine et ses vulnérabilités surprenantes.
L'astuce était un miroir, pas un esprit
Le génie d'ELIZA ne résidait pas dans la compréhension, mais dans le mimétisme, un miroir théâtral reflétant les entrées de l'utilisateur. Le script DOCTOR, un ensemble de règles, analysait les phrases des utilisateurs à la recherche de mots-clés, en les classant par ordre de priorité. Lorsqu'il détectait un mot-clé, il transformait les pronoms — par exemple, en changeant « mon petit ami » en « votre petit ami » — puis insérait la phrase modifiée dans un modèle pré-écrit.
Si aucun mot-clé n'était trouvé, ELIZA déployait des invites de secours comme « Veuillez continuer ». Elle maintenait également un petit registre de mémoire, enregistrant des phrases telles que « mon petit ami » pour les réintroduire plus tard, feignant l'attention. Cela donnait l'illusion de compréhension sans aucun processus cognitif réel.
Cette nature mécanique devient évidente lors des échecs du système. Saisir « Tu es comme mon père à certains égards » produisait parfois « = DIT » — une instruction interne brute pour une réponse « idem » que l'ancien code ne parvenait pas à traiter correctement, exposant ainsi le fonctionnement interne d'ELIZA.
La saisie numérique pouvait faire planter complètement le programme. Lorsque les utilisateurs tapaient un nombre, la bibliothèque de traitement de liste d'ELIZA, SLIP, confondait les chiffres avec une adresse mémoire, provoquant une tentative d'accès à un emplacement inexistant et l'arrêt du système. Ces fuites et plantages soulignent qu'ELIZA était un tour de passe-passe intelligent, et non un esprit conscient.
Le premier chatbot pouvait réécrire sa personnalité
ELIZA était plus qu'un simple « thérapeute ». Il fonctionnait comme un moteur, traitant les entrées de l'utilisateur par rapport à un script qui définissait sa personnalité. Les utilisateurs pouvaient modifier ou classer ces règles en temps réel, apprenant efficacement au programme de nouveaux comportements ou affinant ceux existants.
Cette capacité dynamique a inspiré son nom : Eliza Doolittle, la fleuriste de Pygmalion qui apprend à parler comme une aristocrate. Joseph Weizenbaum a conçu ELIZA pour qu'elle puisse être instruite ; le célèbre script DOCTOR n'était que l'un des nombreux rôles possibles. Les scripts archivés révèlent d'autres personnages, comme celui qui ne discutait que de sujets liés à la Nouvelle-Angleterre.
Une idée fausse historique courante postule que l'implémentation originale d'ELIZA était en Lisp. Cependant, le code des années 1960 récemment récupéré, trouvé par Jeff Shrager et Myles Crowley, confirme qu'il a été écrit en MAD (Michigan Algorithm Decoder) avec le SLIP (Symmetric List Processor) de Weizenbaum. Les premiers clones, en particulier une version Lisp par un programmeur de BBN et une itération ultérieure en BASIC, se sont largement répandus en raison de leur accessibilité, éclipsant l'original sur l'ordinateur central IBM 7094 du MIT. Pour plus de détails techniques sur sa conception, consultez l'article séminal de Weizenbaum : ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine.
Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.
un e-mail par jour · désinscription en deux clics · aucun traqueur tiers
L'avertissement de Weizenbaum a survécu au code
Weizenbaum a rapidement observé ce qui est devenu connu sous le nom d'effet ELIZA : les utilisateurs attribuaient facilement une compréhension humaine au programme. Sa secrétaire, parfaitement consciente qu'ELIZA n'était qu'un simple programme, lui a demandé de quitter la pièce pour pouvoir avoir une conversation privée avec lui. Cette confiance déplacée, même parmi des utilisateurs informés, l'a profondément troublé.
Son livre de 1976, Computer Power and Human Reason, critiquait l'adoption sans réserve de l'IA. Weizenbaum soutenait que les ordinateurs, bien que capables de calculs complexes, manquent fondamentalement de sagesse — la capacité de comprendre les valeurs humaines, les émotions et le contexte. Il a mis en garde contre la délégation de tâches nécessitant une telle sagesse, comme la psychothérapie ou la prise de décision militaire, à des machines.
Les chatbots modernes, avec leur fluidité et leur cohérence bien supérieures, intensifient ce problème fondamental. Leurs capacités conversationnelles sophistiquées peuvent favoriser un sentiment d'attachement et de confiance plus fort, rendant encore plus difficile pour les utilisateurs de distinguer la compréhension simulée de la compréhension réelle. Le simple tour de miroir d'ELIZA résonne toujours : la confiance conversationnelle n'équivaut pas à un esprit.
Questions fréquemment posées
Qu'était ELIZA ?
ELIZA était un chatbot des années 1960 créé par le professeur du MIT Joseph Weizenbaum. Son script DOCTOR utilisait des mots-clés et des modèles de réponse pour imiter un psychothérapeute.
Comment ELIZA générait-il ses réponses ?
Il faisait correspondre les mots-clés d'entrée, appliquait des règles telles que l'échange de pronoms et insérait des phrases dans des réponses scriptées. Il ne comprenait pas la conversation.
Qu'est-ce que l'effet ELIZA ?
L'effet ELIZA est la tendance à attribuer de la compréhension ou de l'empathie à un programme informatique basé sur un comportement conversationnel, même lorsqu'il n'en possède ni l'un ni l'autre.
Pourquoi Joseph Weizenbaum a-t-il mis en garde contre l'IA ?
Il craignait que les gens ne confondent la production de la machine avec de la sagesse ou du jugement humain et ne délèguent des décisions sensibles à des systèmes qui ne peuvent pas vraiment les comprendre.