1960年代のチャットボット、再起動—そして変わらぬ脆さ
誕生から数十年を経た今も、最初のチャットボットであるELIZAは人々を驚かせ続けている。研究者たちは最近、1965年に作成されたソースコードを復元し、1966年の有名なセラピストとの会話を正確に再現した。しかし、「999」のような単純な数値を入力すると、プログラムは即座にクラッシュし、その根本的な脆さを露呈した。
ELIZAは当初、MITのIBM 7094メインフレーム上で動作していた。これは部屋ほどの大きさがあり、費用は290万ドル（現在の価値で約2300万ドル）に相当する機械だった。ユーザーは紙に印字する端末を介して対話し、タイプライターで入力し、同じ紙に印刷された返答を受け取っていた。この巨大な機械のメモリは150 KB未満で、現代のスマートフォンの写真1枚分にも満たない容量だった。
50年以上にわたり、オリジナルのコードはアーカイブボックスの中で誰の目にも触れられることなく眠っていた。2021年、Jeff ShragerとMITのアーキビストであるMyles Crowleyがそれを発掘した。彼らはMAD-SLIP環境を緻密に再構築し、2024年にプログラムを再び稼働させることに成功。そのオリジナルの動作と、驚くべき脆弱性を確認した。
そのトリックは鏡であり、知性ではなかった
ELIZAの素晴らしさは理解にあるのではなく、模倣にあった。それはユーザーの入力を映し出す演劇的な鏡だった。DOCTORスクリプトという一連のルールがユーザーの文章からキーワードをスキャンし、ランク付けして優先順位を決めていた。キーワードを検出すると、代名詞を変換（例えば「私の彼氏」を「あなたの彼氏」に変更）し、その修正されたフレーズをあらかじめ用意されたテンプレートに挿入していた。
キーワードが見つからない場合、ELIZAは「続けてください」といった定型的な促しを用いた。また、小さなメモリレジスタを保持し、「私の彼氏」といったフレーズを保存して後で再利用することで、親身であるかのように装っていた。これにより、真の認知プロセスを伴わずに、理解しているという錯覚を与えていた。
この機械的な性質は、システムの失敗において明らかになる。「あなたは時々私の父に似ている」と入力すると、時に「 = DIT」と出力されることがあった。これは「ditto（同上）」という応答のための内部命令が古いコードで正しく処理されなかった結果であり、ELIZAの内部構造を露呈させるものだった。
数値の入力はプログラムを完全にクラッシュさせることがあった。ユーザーが数字を入力すると、ELIZAのリスト処理ライブラリであるSLIPがその数字をメモリアドレスと誤認し、システムが存在しない場所へアクセスしようとして停止してしまうのだ。こうした不具合やクラッシュは、ELIZAが知的な精神ではなく、巧妙な見世物であったことを強調している。
最初のチャットボットは自身の性格を書き換えることができた
ELIZAは単なる「セラピスト」以上の存在だった。それはエンジンとして機能し、その性格を定義するスクリプトに基づいてユーザーの入力を処理していた。ユーザーはこれらのルールをリアルタイムで変更やランク付けができ、プログラムに新しい振る舞いを教えたり、既存のものを洗練させたりすることができた。
この動的な能力が、その名前の由来となった。貴族のように話すことを学ぶ『ピグマリオン』の生花売り娘、イライザ・ドゥーリトルである。Joseph WeizenbaumはELIZAを「教えられるもの」として設計した。有名なDOCTORスクリプトは、数ある役割の一つに過ぎなかった。アーカイブされたスクリプトには、ニューイングランドの話題のみを議論するものなど、他のペルソナも存在することが明らかになっている。
ELIZAのオリジナル実装がLispであったという歴史的な誤解が一般的です。しかし、Jeff ShragerとMyles Crowleyによって最近発見された1960年代のコードにより、それがWeizenbaumのSLIP（Symmetric List Processor）を使用したMAD（Michigan Algorithm Decoder）で書かれていたことが確認されました。初期のクローン、特にBBNのプログラマーによるLisp版やその後のBASIC版は、そのアクセスのしやすさから広く普及し、MITのIBM 7094メインフレーム上で動作していたオリジナル版を凌駕しました。設計に関する詳細な技術情報については、Weizenbaumの記念碑的な論文を参照してください：ELIZA—A Computer Program For the Study of Natural Language Communication Between Man and Machine。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
Weizenbaumの警告はコードよりも長く生き残った
Weizenbaumはすぐに、後にELIZA effectとして知られるようになる現象を観察しました。ユーザーは、プログラムが人間的な理解力を持っていると容易に錯覚したのです。彼の秘書は、ELIZAが単なるプログラムであることを十分に理解していながら、彼に部屋から出るように頼み、それと個人的な会話をしようとしました。情報に通じたユーザーの間でさえ見られたこの誤った信頼は、彼を深く悩ませました。
1976年の著書『Computer Power and Human Reason』の中で、彼はAIを無批判に受け入れる姿勢を批判しました。Weizenbaumは、コンピュータは複雑な計算を行う能力はあるものの、根本的にwisdom（知恵）――つまり人間の価値観、感情、文脈を理解する能力――が欠けていると主張しました。彼は、心理療法や軍事的な意思決定など、そのような知恵を必要とするタスクを機械に委ねることに対して警告を発しました。
現代のチャットボットは、はるかに優れた流暢さと一貫性を持ち、この根本的な問題を深刻化させています。その洗練された会話能力は、より強い愛着や信頼感を抱かせる可能性があり、ユーザーがシミュレートされた理解と真の理解を区別することをさらに困難にしています。ELIZAの単純な鏡のようなトリックは今もなお響いています。会話の自信は、心と等価ではないのです。
よくある質問
ELIZAとは何でしたか？
ELIZAは、MITの教授Joseph Weizenbaumによって作成された1960年代のチャットボットです。そのDOCTORスクリプトは、キーワードと応答テンプレートを使用して心理療法士を模倣しました。
ELIZAはどのようにして返答を生成しましたか？
入力されたキーワードを照合し、代名詞の入れ替えなどのルールを適用し、スクリプト化された応答にフレーズを挿入していました。会話の内容を理解していたわけではありません。
What is the ELIZA effect?
ELIZA effectとは、コンピュータプログラムが会話を行うというだけで、実際には理解も共感も持ち合わせていないにもかかわらず、ユーザーがそこに理解や共感を見出してしまう傾向のことです。
なぜJoseph WeizenbaumはAIについて警告したのですか？
彼は、人々が機械の出力を知恵や人間の判断と勘違いし、真に理解することのできないシステムに重要な決定を委ねてしまうことを恐れました。