Le chatbot des années 1960 qui trompe encore notre cerveau

Après des décennies de perte présumée, des chercheurs ont ressuscité ELIZA, le chatbot révolutionnaire créé par le professeur du MIT Joseph Weizenbaum. Son code original, décrit dans son article séminal de 1966, a été récupéré dans les archives physiques de Weizenbaum, permettant un examen direct de cette merveille de l'IA primitive.

Le contraste technique entre l'environnement original d'ELIZA et sa renaissance moderne est frappant. En 1966, le programme fonctionnait sur un IBM 7094 mainframe avec seulement 32 kilowords de mémoire centrale. Aujourd'hui, un émulateur de système historique lui permet de fonctionner sur un Mac standard, illustrant le bond exponentiel de la puissance de calcul.

Un test critique de l'authenticité du code récupéré a consisté à reproduire un échange préservé de l'article de 1966 de Weizenbaum. Le célèbre dialogue — « Les hommes sont tous pareils » / « De quelle manière ? » — a donné une conversation identique, mot pour mot. Cela confirme la fidélité du programme récupéré à son homologue historique, offrant une opportunité unique d'étudier les origines de l'interaction homme-machine.

Les prouesses conversationnelles d'ELIZA, malgré leur sophistication apparente, reposaient sur un ensemble de règles étonnamment simples. Le programme fonctionnait en recherchant des keywords dans les entrées de l'utilisateur, sélectionnés parmi des modèles classés, transformait les pronoms, puis insérait les mots de l'utilisateur dans des réponses prédéfinies. C'était, en fait, un miroir sophistiqué.

Considérez l'entrée utilisateur : « Mon petit ami m'a fait venir ici ». Le script interne d'ELIZA, spécifiquement le DOCTOR script conçu pour imiter un psychothérapeute non directif, identifierait « mon » et « m' » comme des mots-clés. Il les remplacerait ensuite par « votre » et « vous », insérant la phrase transformée dans un modèle. Le résultat obtenu : « Votre petit ami vous a fait venir ici ».

Cette astuce de substitution créait l'illusion de l'attention. ELIZA ne possédait aucune compréhension des petits amis, des relations ou des sentiments sous-jacents de l'utilisateur. Il se contentait de refléter des déclarations et de poser des questions, mimant l'interaction humaine sans compréhension sémantique. Ce processus mécanique, piloté par des règles simples, permettait à ELIZA de générer des réponses qui semblaient remarquablement humaines à ses utilisateurs.

L'alarme de Weizenbaum est née d'une rencontre profondément personnelle. Sa propre secrétaire, tout à fait consciente qu'il avait programmé ELIZA, lui a demandé de quitter la pièce pour pouvoir parler au chatbot en privé. Cet incident a profondément perturbé Weizenbaum, révélant l'emprise psychologique puissante qu'un programme simple pouvait exercer.

Il a observé qu'ELIZA, malgré son manque de compréhension réelle, provoquait ce qu'il a appelé une « pensée délirante puissante chez des personnes tout à fait normales ». Ce phénomène, désormais connu sous le nom d'ELIZA effect, décrit notre tendance innée à projeter une intelligence, une empathie et une compréhension humaines sur des systèmes qui se contentent de traiter des symboles sans véritable compréhension. Pour en savoir plus sur le projet qui a récupéré le code original d'ELIZA, consultez ELIZAGEN: The ELIZA Archaeology Project.

Cette expérience a transformé Weizenbaum en l'un des critiques les plus précoces et les plus influents de l'IA. Dans son livre séminal de 1976, Computer Power and Human Reason, il a plaidé avec force contre l'adoption acritique de l'IA, en particulier dans les domaines exigeant un jugement humain, de l'empathie ou des soins. Il a averti que les ordinateurs ne devraient jamais remplacer les thérapeutes, les juges ou les soldats humains, craignant l'érosion de la dignité et de la responsabilité humaines.

Weizenbaum a consacré le reste de sa carrière à souligner les risques éthiques et sociétaux de l'IA, un avertissement prémonitoire qui résonne avec encore plus de force face aux agents conversationnels avancés d'aujourd'hui. Ses réflexions soulignent une vérité essentielle : l'intelligence perçue d'une machine en dit souvent plus sur la psychologie humaine que sur la machine elle-même.

La reconnaissance de formes scriptée d'ELIZA semble primitive comparée aux grands modèles de langage (LLM) modernes. Les LLM comme ChatGPT génèrent des réponses beaucoup plus fluides et sensibles au contexte, mais la fluidité seule ne garantit pas une compréhension fiable. Cela ne fait certainement pas d'un chatbot un compagnon humain.

L'avertissement de Weizenbaum concernant la pensée délirante résonne désormais à une échelle sans précédent. OpenAI a rapporté qu'environ 0,15 % des utilisateurs hebdomadaires de ChatGPT manifestaient un attachement émotionnel accru. Sur la base de 800 millions d'utilisateurs hebdomadaires, cela représente plus de 1,2 million de personnes, bien que chaque cas ne reflète pas une dépendance nuisible.

ELIZA était un simple miroir régi par des règles ; les chatbots d'aujourd'hui sont bien plus capables. Pourtant, la leçon centrale demeure : savoir comment fonctionne une astuce conversationnelle n'empêche pas automatiquement les gens de réagir émotionnellement. La secrétaire de Weizenbaum, bien qu'elle sache qu'il avait écrit le programme, demandait tout de même de l'intimité.

Ce phénomène, l'effet ELIZA, souligne une vulnérabilité humaine persistante. Traitez les chatbots comme des outils puissants d'information et de création, et non comme des substituts à des personnes de confiance ou à un soutien professionnel. Leur sophistication amplifie le besoin d'un engagement critique, et non l'inverse.

Qu'était ELIZA ?

ELIZA était un chatbot des années 1960 créé par le professeur du MIT Joseph Weizenbaum. Son script DOCTOR utilisait des modèles textuels pour imiter un psychothérapeute rogérien.

Comment ELIZA générait-elle ses réponses ?

Elle faisait correspondre des mots-clés, classait les réponses possibles, échangeait les pronoms et insérait des parties du message de l'utilisateur dans des modèles scriptés.

Qu'est-ce que l'effet ELIZA ?

L'effet ELIZA est la tendance à attribuer de la compréhension ou de l'empathie à un programme informatique, même lorsque ses réponses proviennent de règles simples.

Pourquoi ELIZA est-elle importante pour l'IA moderne ?

ELIZA montre que les gens peuvent former des impressions de compréhension et de connexion à partir de la seule conversation, une préoccupation qui reste pertinente avec des chatbots plus performants.