Чат-бот 1960-х годов: перезагрузка — и все та же хрупкость
Спустя десятилетия после своего создания ELIZA, первый чат-бот, до сих пор удивляет. Исследователи недавно запустили восстановленный исходный код 1965 года, в точности воспроизведя знаменитый диалог с психотерапевтом 1966 года. Однако при вводе простого числа, например «999», программа мгновенно «вылетает», обнажая свою внутреннюю хрупкость.
Изначально ELIZA работала на мейнфрейме IBM 7094 в MIT — машине размером с комнату, которая стоила 2,9 миллиона долларов (около 23 миллионов долларов сегодня). Пользователи взаимодействовали через терминалы с бумажной лентой, печатая на пишущей машинке и получая ответы на том же листе. Этот гигант работал с памятью менее 150 КБ — это лишь малая часть размера фотографии на современном телефоне.
Более 50 лет оригинальный код оставался нетронутым в архивной коробке. В 2021 году Джефф Шрейгер и архивариус MIT Майлз Кроули обнаружили его. Тщательно реконструировав среду MAD-SLIP, они успешно запустили программу в 2024 году, подтвердив ее первоначальную работу и удивительные уязвимости.
Этот трюк был зеркалом, а не разумом
Гениальность ELIZA заключалась не в понимании, а в имитации — театральном зеркале, отражающем ввод пользователя. Скрипт DOCTOR, набор правил, сканировал предложения пользователя на наличие ключевых слов, расставляя их по приоритету. Когда программа обнаруживала ключевое слово, она меняла местоимения — например, превращая «мой парень» в «ваш парень» — а затем вставляла измененную фразу в заранее написанный шаблон.
Если ключевые слова не находились, ELIZA использовала запасные фразы, такие как «Пожалуйста, продолжайте». Она также поддерживала небольшой регистр памяти, сохраняя фразы вроде «мой парень», чтобы использовать их позже, имитируя внимательность. Это создавало иллюзию понимания без каких-либо реальных когнитивных процессов.
Эта механическая природа становится очевидной при сбоях системы. Ввод фразы «Ты в чем-то похож на моего отца» иногда приводил к ответу « = DIT» — необработанной внутренней инструкции для ответа «ditto», которую старый код не смог правильно обработать, обнажив внутреннее устройство ELIZA.
Числовой ввод мог полностью обрушить программу. Когда пользователи вводили число, библиотека обработки списков SLIP принимала цифры за адрес памяти, заставляя систему пытаться получить доступ к несуществующему месту, что приводило к остановке. Эти утечки и сбои подчеркивают, что ELIZA была ловким салонным фокусом, а не разумным существом.
Первый чат-бот мог менять свою личность
ELIZA была чем-то большим, чем просто «психотерапевт». Она функционировала как движок, обрабатывающий ввод пользователя в соответствии со скриптом, который определял ее личность. Пользователи могли изменять или ранжировать эти правила в режиме реального времени, эффективно обучая программу новому поведению или совершенствуя существующее.
Эта динамическая возможность вдохновила создателей на имя: Элиза Дулиттл, цветочница из пьесы «Пигмалион», которая учится говорить как аристократка. Джозеф Вейценбаум спроектировал ELIZA так, чтобы ее можно было обучать; знаменитый скрипт DOCTOR был лишь одной из многих возможных ролей. Архивные скрипты содержат и другие образы, например, тот, что обсуждал только темы, связанные с Новой Англией.
Распространенное историческое заблуждение гласит, что оригинальная реализация ELIZA была написана на Lisp. Однако недавно обнаруженный код 1960-х годов, найденный Джеффом Шрейджером и Майлзом Кроули, подтверждает, что он был написан на MAD (Michigan Algorithm Decoder) с использованием SLIP (Symmetric List Processor) Вейценбаума. Ранние клоны, в частности версия на Lisp от программиста BBN и более поздняя итерация на BASIC, получили широкое распространение благодаря своей доступности, затмив оригинал на мейнфрейме IBM 7094 в MIT. Для получения дополнительных технических подробностей о его разработке обратитесь к фундаментальной статье Вейценбаума: ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine.
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
Предупреждение Вейценбаума пережило сам код
Вейценбаум вскоре заметил то, что стало известно как эффект ELIZA: пользователи охотно приписывали программе человеческое понимание. Его секретарь, прекрасно осознавая, что ELIZA — это всего лишь программа, попросила его выйти из комнаты, чтобы она могла поговорить с ней наедине. Это неуместное доверие, даже среди информированных пользователей, глубоко его обеспокоило.
Его книга 1976 года Computer Power and Human Reason критиковала некритичное принятие ИИ. Вейценбаум утверждал, что компьютеры, хотя и способны выполнять сложные вычисления, фундаментально лишены мудрости — способности понимать человеческие ценности, эмоции и контекст. Он предостерегал от делегирования машинам задач, требующих такой мудрости, например, психотерапии или принятия военных решений.
Современные чат-боты, обладающие значительно более высокой беглостью и связностью речи, усугубляют эту основную проблему. Их сложные разговорные способности могут способствовать возникновению более сильного чувства привязанности и доверия, что еще больше затрудняет для пользователей различие между симулированным пониманием и подлинным осмыслением. Простой трюк с «зеркалом» от ELIZA по-прежнему актуален: уверенность в общении не равнозначна наличию разума.
Часто задаваемые вопросы
Что такое ELIZA?
ELIZA — это чат-бот 1960-х годов, созданный профессором MIT Джозефом Вейценбаумом. Его скрипт DOCTOR использовал ключевые слова и шаблоны ответов для имитации психотерапевта.
Как ELIZA генерировала свои ответы?
Она сопоставляла ключевые слова во входных данных, применяла правила, такие как замена местоимений, и вставляла фразы в скриптовые ответы. Она не понимала сути разговора.
Что такое эффект ELIZA?
Эффект ELIZA — это склонность приписывать компьютерной программе понимание или эмпатию на основе ее разговорного поведения, даже когда она не обладает ни тем, ни другим.
Почему Джозеф Вейценбаум предупреждал об опасностях ИИ?
Он опасался, что люди будут принимать машинный вывод за мудрость или человеческое суждение и делегировать ответственные решения системам, которые не могут их по-настоящему понять.