O Chatbot dos anos 1960 que ainda engana nossos cérebros

Após décadas de suposta perda, pesquisadores ressuscitaram ELIZA, o chatbot inovador criado pelo professor do MIT Joseph Weizenbaum. Seu código original, descrito em seu artigo seminal de 1966, foi recuperado dos arquivos físicos de Weizenbaum, permitindo um exame direto desta maravilha inicial da IA.

O contraste técnico entre o ambiente original de ELIZA e seu renascimento moderno é impressionante. Em 1966, o programa rodava em um IBM 7094 mainframe com apenas 32 mil palavras de memória central. Hoje, um emulador de sistema histórico permite que ele opere em um Mac padrão, ilustrando o salto exponencial no poder computacional.

Um teste crítico da autenticidade do código recuperado envolveu a reprodução de uma troca preservada do artigo de Weizenbaum de 1966. O famoso diálogo — "Os homens são todos iguais" / "De que maneira?" — produziu uma conversa idêntica, palavra por palavra. Isso confirma a fidelidade do programa recuperado ao seu equivalente histórico, proporcionando uma oportunidade única de estudar as origens da interação humano-computador.

A proeza conversacional de ELIZA, apesar de sua aparente sofisticação, baseava-se em um conjunto surpreendentemente simples de regras. O programa operava procurando por keywords na entrada do usuário, selecionadas entre padrões classificados, transformando pronomes e, em seguida, inserindo as palavras do usuário em respostas predefinidas. Era, efetivamente, um espelho sofisticado.

Considere a entrada do usuário: "Meu namorado me fez vir aqui". O script interno de ELIZA, especificamente o DOCTOR script projetado para imitar um psicoterapeuta não diretivo, identificaria "meu" e "me" como palavras-chave. Ele então os trocaria por "seu" e "você", encaixando a frase transformada em um modelo. O resultado: "Seu namorado fez você vir aqui".

Este truque de substituição criava a ilusão de atenção. ELIZA não possuía qualquer compreensão sobre namorados, relacionamentos ou os sentimentos subjacentes do usuário. Ele apenas refletia declarações e fazia perguntas, imitando a interação humana sem compreensão semântica. Este processo mecânico, impulsionado por regras simples, permitiu que ELIZA gerasse respostas que pareciam notavelmente humanas aos seus usuários.

O alarme de Weizenbaum cresceu a partir de um encontro profundamente pessoal. Sua própria secretária, plenamente consciente de que ele havia programado ELIZA, pediu-lhe para sair da sala para que ela pudesse falar com o chatbot em particular. Este incidente perturbou profundamente Weizenbaum, revelando o potente controle psicológico que até mesmo um programa simples poderia exercer.

Ele observou que ELIZA, apesar de sua falta de compreensão genuína, provocava o que ele chamou de "pensamento delirante poderoso em pessoas bastante normais". Este fenômeno, agora conhecido como ELIZA effect, descreve nossa tendência inata de projetar inteligência, empatia e compreensão semelhantes às humanas em sistemas que apenas processam símbolos sem verdadeira compreensão. Para mais informações sobre o projeto que recuperou o código original de ELIZA, veja ELIZAGEN: The ELIZA Archaeology Project.

Esta experiência transformou Weizenbaum em um dos primeiros e mais influentes críticos da IA. Em seu livro seminal de 1976, Computer Power and Human Reason, ele argumentou fortemente contra a adoção acrítica da IA, particularmente em domínios que exigem julgamento humano, empatia ou cuidado. Ele alertou que computadores nunca deveriam substituir terapeutas, juízes ou soldados humanos, temendo a erosão da dignidade e da responsabilidade humana.

Weizenbaum dedicou o restante de sua carreira a destacar os riscos éticos e sociais da IA, um aviso premonitório que ressoa ainda mais poderosamente com os avançados agentes de conversação de hoje. Suas percepções sublinham uma verdade crítica: a inteligência percebida de uma máquina muitas vezes diz mais sobre a psicologia humana do que sobre a própria máquina.

O reconhecimento de padrões roteirizados do ELIZA parece primitivo em comparação com os modernos grandes modelos de linguagem (LLMs). LLMs como o ChatGPT geram respostas muito mais fluidas e sensíveis ao contexto, mas a fluência por si só não garante uma compreensão confiável. Certamente não torna um chatbot um companheiro humano.

O aviso de Weizenbaum sobre o pensamento delirante agora ressoa em uma escala sem precedentes. A OpenAI relatou que aproximadamente 0,15% dos usuários semanais do ChatGPT mostraram um apego emocional elevado. Contra um total relatado de 800 milhões de usuários semanais, isso se traduz em mais de 1,2 milhão de pessoas, embora nem todo caso reflita uma dependência prejudicial.

O ELIZA era um espelho simples com regras; os chatbots de hoje são vastamente mais capazes. No entanto, a lição central permanece: saber como um truque de conversação funciona não impede automaticamente que as pessoas respondam emocionalmente. A secretária de Weizenbaum, apesar de saber que ele escreveu o programa, ainda pediu privacidade.

Este fenômeno, o efeito ELIZA, sublinha uma vulnerabilidade humana persistente. Trate os chatbots como ferramentas poderosas para informação e criação, não como substitutos para pessoas de confiança ou suporte profissional. Sua sofisticação amplia a necessidade de um engajamento crítico, não o contrário.

O que era o ELIZA?

O ELIZA foi um chatbot da década de 1960 criado pelo professor do MIT Joseph Weizenbaum. Seu script DOCTOR usava padrões de texto para imitar um psicoterapeuta rogeriano.

Como o ELIZA gerava respostas?

Ele combinava palavras-chave, classificava possíveis respostas, trocava pronomes e inseria partes da mensagem do usuário em modelos roteirizados.

O que é o efeito ELIZA?

O efeito ELIZA é a tendência de atribuir compreensão ou empatia a um programa de computador, mesmo quando suas respostas vêm de regras simples.

Por que o ELIZA é importante para a IA moderna?

O ELIZA mostra que as pessoas podem formar impressões de compreensão e conexão apenas pela conversa, uma preocupação que permanece relevante com chatbots mais capazes.