Чат-бот 1960-х годов, который до сих пор обманывает наш мозг

Спустя десятилетия после того, как его считали утраченным, исследователи воскресили ELIZA, революционный чат-бот, созданный профессором MIT Джозефом Вейценбаумом. Его оригинальный код, описанный в его фундаментальной статье 1966 года, был восстановлен из физических архивов Вейценбаума, что позволило провести прямое исследование этого раннего чуда ИИ.

Технический контраст между оригинальной средой ELIZA и ее современным возрождением поразителен. В 1966 году программа работала на мейнфрейме IBM 7094 с объемом оперативной памяти всего 32 килослова. Сегодня исторический эмулятор системы позволяет ей работать на стандартном Mac, что иллюстрирует экспоненциальный скачок вычислительной мощности.

Критический тест на подлинность восстановленного кода включал воспроизведение сохраненного диалога из статьи Вейценбаума 1966 года. Знаменитый диалог — «Все мужчины одинаковы» / «В каком смысле?» — привел к идентичному, слово в слово, разговору. Это подтверждает точность восстановленной программы по сравнению с ее историческим аналогом, предоставляя уникальную возможность изучить истоки взаимодействия человека и компьютера.

Разговорное мастерство ELIZA, несмотря на кажущуюся сложность, опиралось на удивительно простой набор правил. Программа работала путем поиска в пользовательском вводе ключевых слов, выбранных из ранжированных шаблонов, преобразовывала местоимения, а затем вставляла слова пользователя в заранее заданные ответы. По сути, это было сложное зеркало.

Рассмотрим ввод пользователя: «Мой парень заставил меня прийти сюда». Внутренний скрипт ELIZA, а именно DOCTOR script, разработанный для имитации недирективного психотерапевта, идентифицировал бы «мой» и «меня» как ключевые слова. Затем он менял бы их на «ваш» и «вас», вставляя преобразованную фразу в шаблон. Полученный результат: «Ваш парень заставил вас прийти сюда».

Этот трюк с подстановкой создавал иллюзию внимательности. ELIZA не обладала никаким пониманием парней, отношений или скрытых чувств пользователя. Она просто отражала утверждения и задавала вопросы, имитируя человеческое общение без семантического понимания. Этот механический процесс, движимый простыми правилами, позволял ELIZA генерировать ответы, которые казались пользователям удивительно человечными.

Тревога Вейценбаума выросла из глубоко личного случая. Его собственная секретарша, прекрасно зная, что он запрограммировал ELIZA, попросила его выйти из комнаты, чтобы она могла поговорить с чат-ботом наедине. Этот инцидент глубоко встревожил Вейценбаума, показав, какой мощной психологической властью может обладать даже простая программа.

Он заметил, что ELIZA, несмотря на отсутствие подлинного понимания, провоцировала то, что он назвал «сильным бредовым мышлением у вполне нормальных людей». Этот феномен, ныне известный как эффект ELIZA, описывает нашу врожденную склонность проецировать человеческий интеллект, эмпатию и понимание на системы, которые просто обрабатывают символы без истинного понимания. Подробнее о проекте, восстановившем оригинальный код ELIZA, см. ELIZAGEN: The ELIZA Archaeology Project.

Этот опыт превратил Вейценбаума в одного из самых ранних и влиятельных критиков ИИ. В своей фундаментальной книге 1976 года Computer Power and Human Reason он решительно выступал против некритического внедрения ИИ, особенно в областях, требующих человеческого суждения, эмпатии или заботы. Он предупреждал, что компьютеры никогда не должны заменять человеческих терапевтов, судей или солдат, опасаясь эрозии человеческого достоинства и ответственности.

Вайценбаум посвятил остаток своей карьеры освещению этических и социальных рисков ИИ — пророческое предупреждение, которое звучит еще более весомо в эпоху современных разговорных агентов. Его идеи подчеркивают критически важную истину: воспринимаемый интеллект машины часто говорит больше о человеческой психологии, чем о самой машине.

Сценарное сопоставление шаблонов ELIZA кажется примитивным по сравнению с современными большими языковыми моделями (LLMs). LLMs, такие как ChatGPT, генерируют гораздо более плавные и контекстно-зависимые ответы, но одна лишь беглость речи не гарантирует надежного понимания. И это, безусловно, не делает чат-бота человеческим компаньоном.

Предупреждение Вайценбаума о склонности к иллюзиям сегодня звучит в беспрецедентном масштабе. OpenAI сообщила, что примерно 0,15% еженедельных пользователей ChatGPT проявляют повышенную эмоциональную привязанность. При заявленных 800 миллионах еженедельных пользователей это означает более 1,2 миллиона человек, хотя не каждый случай отражает вредную зависимость.

ELIZA была простым зеркалом с набором правил; современные чат-боты гораздо более функциональны. Тем не менее, главный урок остается прежним: знание того, как работает разговорный трюк, не всегда мешает людям реагировать эмоционально. Секретарь Вайценбаума, несмотря на то, что знала, кто написал программу, все равно просила уединения.

Этот феномен, известный как эффект ELIZA, подчеркивает устойчивую человеческую уязвимость. Относитесь к чат-ботам как к мощным инструментам для получения информации и творчества, а не как к замене доверенных лиц или профессиональной поддержки. Их сложность требует более критического подхода, а не менее.

Что такое ELIZA?

ELIZA — это чат-бот 1960-х годов, созданный профессором MIT Джозефом Вайценбаумом. Его скрипт DOCTOR использовал текстовые шаблоны для имитации роджерианского психотерапевта.

Как ELIZA генерировала ответы?

Она сопоставляла ключевые слова, ранжировала возможные ответы, меняла местоимения и вставляла части сообщения пользователя в сценарные шаблоны.

Что такое эффект ELIZA?

Эффект ELIZA — это склонность приписывать понимание или эмпатию компьютерной программе, даже если ее ответы основаны на простых правилах.

Почему ELIZA важна для современного ИИ?

ELIZA показывает, что люди могут формировать впечатление понимания и связи только на основе разговора — проблема, которая остается актуальной и с более способными чат-ботами.