Un chatbot de los años 60, reiniciado y aún frágil
Décadas después de su creación, ELIZA, el primer chatbot, sigue sorprendiendo. Investigadores ejecutaron recientemente su código fuente recuperado de 1965, reproduciendo exactamente su famosa conversación de terapeuta de 1966. Sin embargo, al recibir una entrada numérica simple como "999", el programa se bloquea instantáneamente, revelando su fragilidad subyacente.
ELIZA funcionaba originalmente en una computadora central IBM 7094 en el MIT, una máquina del tamaño de una habitación que costaba 2,9 millones de dólares (alrededor de 23 millones de dólares actuales). Los usuarios interactuaban a través de terminales de impresión en papel, escribiendo en una máquina de escribir y recibiendo respuestas impresas en la misma hoja. Este gigante operaba con menos de 150 KB de memoria, una fracción de la foto de un teléfono moderno.
Durante más de 50 años, el código original permaneció oculto en una caja de archivo. En 2021, Jeff Shrager y el archivista del MIT, Myles Crowley, lo desenterraron. Tras reconstruir meticulosamente su entorno MAD-SLIP, lograron que el programa volviera a funcionar en 2024, confirmando su funcionamiento original y sus sorprendentes vulnerabilidades.
El truco era un espejo, no una mente
La genialidad de ELIZA no residía en la comprensión, sino en la imitación: un espejo teatral que reflejaba la entrada del usuario. El script DOCTOR, un conjunto de reglas, escaneaba las oraciones del usuario en busca de palabras clave, priorizándolas por rango. Cuando detectaba una palabra clave, transformaba los pronombres (por ejemplo, cambiando "mi novio" por "tu novio") y luego insertaba la frase modificada en una plantilla preescrita.
Si no se encontraban palabras clave, ELIZA desplegaba mensajes de reserva como "Por favor, continúa". También mantenía un pequeño registro de memoria, guardando frases como "mi novio" para reintroducirlas más tarde, fingiendo atención. Esto daba la ilusión de comprensión sin ningún proceso cognitivo real.
Esta naturaleza mecánica se hace evidente en los fallos del sistema. Ingresar "Eres como mi padre en algunos aspectos" a veces producía " = DIT", una instrucción interna cruda para una respuesta de "ídem" que el código antiguo no procesaba correctamente, exponiendo el funcionamiento interno de ELIZA.
La entrada numérica podía bloquear el programa por completo. Cuando los usuarios escribían un número, la biblioteca de procesamiento de listas de ELIZA, SLIP, confundía los dígitos con una dirección de memoria, lo que provocaba que el sistema intentara acceder a una ubicación inexistente y se detuviera. Estas fugas y bloqueos subrayan que ELIZA era un ingenioso truco de salón, no una mente sintiente.
El primer chatbot podía reescribir su personalidad
ELIZA era más que un simple "terapeuta". Funcionaba como un motor, procesando la entrada del usuario frente a un script que definía su personalidad. Los usuarios podían modificar o clasificar estas reglas en tiempo real, enseñando efectivamente al programa nuevos comportamientos o refinando los existentes.
Esta capacidad dinámica inspiró su nombre: Eliza Doolittle, la florista de Pygmalion que aprende a hablar como una aristócrata. Joseph Weizenbaum diseñó a ELIZA para que pudiera ser enseñada; el famoso script DOCTOR era simplemente uno de los muchos roles posibles. Los scripts archivados revelan otras personalidades, como una que solo discutía temas de Nueva Inglaterra.
Un error histórico común plantea que la implementación original de ELIZA fue en Lisp. Sin embargo, el código de la década de 1960 recuperado recientemente, encontrado por Jeff Shrager y Myles Crowley, confirma que fue escrito en MAD (Michigan Algorithm Decoder) con el SLIP (Symmetric List Processor) de Weizenbaum. Los primeros clones, particularmente una versión en Lisp de un programador de BBN y una iteración posterior en BASIC, proliferaron ampliamente debido a su accesibilidad, eclipsando al original en el mainframe IBM 7094 del MIT. Para obtener más detalles técnicos sobre su diseño, consulte el artículo fundamental de Weizenbaum: ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
La advertencia de Weizenbaum sobrevivió al código
Weizenbaum pronto observó lo que se conoció como el ELIZA effect: los usuarios atribuían fácilmente comprensión humana al programa. Su secretaria, plenamente consciente de que ELIZA era un mero programa, le pidió que saliera de la habitación para poder tener una conversación privada con él. Esta confianza fuera de lugar, incluso entre usuarios informados, le preocupó profundamente.
Su libro de 1976, Computer Power and Human Reason, criticaba la adopción acrítica de la IA. Weizenbaum argumentó que las computadoras, aunque capaces de cálculos complejos, carecen fundamentalmente de sabiduría: la capacidad de comprender los valores, las emociones y el contexto humanos. Advirtió contra la delegación de tareas que requieren tal sabiduría, como la psicoterapia o la toma de decisiones militares, a las máquinas.
Los chatbots modernos, con su fluidez y coherencia vastamente superiores, intensifican este problema central. Sus sofisticadas capacidades conversacionales pueden fomentar un sentido más fuerte de apego y confianza, haciendo aún más difícil para los usuarios distinguir entre la comprensión simulada y la comprensión genuina. El simple truco del espejo de ELIZA sigue resonando: la confianza conversacional no equivale a una mente.
Preguntas frecuentes
¿Qué fue ELIZA?
ELIZA fue un chatbot de la década de 1960 creado por el profesor del MIT Joseph Weizenbaum. Su script DOCTOR utilizaba palabras clave y plantillas de respuesta para imitar a un psicoterapeuta.
¿Cómo generaba ELIZA sus respuestas?
Coincidía con las palabras clave de entrada, aplicaba reglas como el intercambio de pronombres e insertaba frases en respuestas programadas. No entendía la conversación.
¿Qué es el ELIZA effect?
El ELIZA effect es la tendencia a atribuir comprensión o empatía a un programa informático basado en el comportamiento conversacional, incluso cuando no tiene ninguna de las dos.
¿Por qué Joseph Weizenbaum advirtió sobre la IA?
Temía que la gente confundiera el resultado de la máquina con sabiduría o juicio humano y delegara decisiones sensibles a sistemas que no pueden entenderlas realmente.