失われたチャットボットの復活
数十年間、失われたと思われていたELIZAが、MITのJoseph Weizenbaum教授によって開発された画期的なチャットボットとして研究者らにより蘇った。1966年の重要な論文で記述されたオリジナルのコードがWeizenbaumの物理アーカイブから回収され、この初期のAIの驚異を直接検証することが可能となった。
ELIZAの当時の環境と現代の復活との技術的な対比は驚くべきものだ。1966年当時、このプログラムはわずか32キロワードのコアメモリを持つIBM 7094メインフレーム上で動作していた。今日では、歴史的なシステムエミュレーターにより標準的なMac上で動作させることができ、計算能力の飛躍的な進歩を物語っている。
回収されたコードの真正性を検証する重要なテストとして、Weizenbaumの1966年の論文に保存されていた対話の再現が行われた。「男なんてみんな同じ」／「どのような点で？」という有名な対話は、一言一句違わぬ会話を生み出した。これは回収されたプログラムが歴史的なオリジナルに忠実であることを裏付けており、人間とコンピュータの相互作用の起源を研究するまたとない機会を提供している。
会話の背後にある巧妙なトリック
ELIZAの会話能力は、その見かけの洗練さにもかかわらず、驚くほど単純なルールセットに依存していた。このプログラムは、ユーザーの入力から優先順位付けされたパターンに基づいたキーワードを検索し、代名詞を変換し、ユーザーの言葉をあらかじめ設定された返答に挿入することで動作していた。実質的に、それは洗練された鏡のようなものだった。
ユーザーの入力「私の彼氏が私をここに来させた」を例に挙げる。非指示的な心理療法士を模倣するように設計されたDOCTORスクリプトは、「私の」と「私を」をキーワードとして識別する。そしてそれらを「あなたの」と「あなたを」に置き換え、変換されたフレーズをテンプレートに当てはめる。その結果、「あなたの彼氏があなたをここに来させた」という出力が得られる。
この置換トリックが、注意深く聞いているという錯覚を生み出した。ELIZAは彼氏や人間関係、あるいはユーザーの根底にある感情について何ら理解していなかった。単に発言を反映させ、質問を投げかけるだけで、意味論的な理解を伴わずに人間との対話を模倣していたのだ。単純なルールによって駆動されるこの機械的なプロセスが、ELIZAにユーザーにとって非常に人間らしく感じられる応答を生成させていた。
プライバシーを求めた秘書
Weizenbaumの懸念は、ある個人的な出来事から深まった。彼自身がELIZAをプログラムしたことを十分に承知していたはずの彼の秘書が、チャットボットと個人的に話したいから部屋を出ていくよう彼に頼んだのだ。この出来事はWeizenbaumを深く動揺させ、単純なプログラムであっても強力な心理的影響を及ぼし得ることを明らかにした。
彼は、ELIZAが真の理解を欠いているにもかかわらず、「ごく普通の人々に強力な妄想的思考」を引き起こすことを観察した。現在ELIZA効果として知られるこの現象は、真の理解なしに記号を処理するだけのシステムに対して、人間のような知能、共感、理解を投影してしまう私たちの生来の傾向を説明している。ELIZAのオリジナルコードを回収したプロジェクトの詳細については、ELIZAGEN: The ELIZA Archaeology Project (https://elizagen.org) を参照のこと。
この経験は、WeizenbaumをAIの最も初期かつ最も影響力のある批判者の一人に変えた。1976年の重要な著書『Computer Power and Human Reason』の中で、彼はAIの無批判な導入、特に人間の判断力、共感、あるいはケアを必要とする領域における導入に対して強く反対を唱えた。彼は、人間の尊厳と責任が損なわれることを恐れ、コンピュータが人間のセラピスト、裁判官、あるいは兵士に取って代わるべきではないと警告した。
Weizenbaumは、AIが持つ倫理的および社会的なリスクを強調することにキャリアの残りを捧げました。彼の先見の明のある警告は、今日の高度な会話型エージェントにおいて、より一層強力な響きを持っています。彼の洞察は、ある重要な真実を浮き彫りにしています。それは、機械の知能が知覚されるとき、それは機械そのものよりも人間の心理について多くを語っているということです。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
なぜ古い警告が今、より重く響くのか
ELIZAのスクリプト化されたパターンマッチングは、現代の大規模言語モデル（LLMs）と比較すると原始的に見えます。ChatGPTのようなLLMsは、はるかに流暢で文脈に応じた応答を生成しますが、流暢さだけでは信頼できる理解が保証されるわけではありません。ましてや、チャットボットが人間の伴侶になるわけでもありません。
妄想的な思考に関するWeizenbaumの警告は、今やかつてない規模で響いています。OpenAIの報告によると、ChatGPTの週間ユーザーの約0.15%が、高まった感情的愛着を示しました。週間ユーザー数8億人という報告に基づくと、これは120万人以上に相当しますが、すべてのケースが有害な依存を反映しているわけではありません。
ELIZAはルールを備えた単純な鏡に過ぎませんでしたが、今日のチャットボットははるかに高い能力を持っています。しかし、中心となる教訓は変わりません。会話のトリックがどのように機能するかを知っていても、人々が感情的に反応することを自動的に止めることはできないのです。Weizenbaumの秘書は、彼がそのプログラムを書いたことを知っていたにもかかわらず、プライバシーを求めました。
この現象であるELIZA effectは、人間が抱える永続的な脆弱性を浮き彫りにしています。チャットボットは信頼できる人々や専門的なサポートの代わりではなく、情報や創造のための強力なツールとして扱うべきです。その洗練度が高まるほど、批判的な関わりがより一層必要となります。
よくある質問
ELIZAとは何でしたか？
ELIZAは、MITの教授であるJoseph Weizenbaumによって作成された1960年代のチャットボットです。そのDOCTORスクリプトは、テキストパターンを使用してロジャーズ派の心理療法士を模倣しました。
ELIZAはどのように返信を生成しましたか？
キーワードを照合し、可能な応答をランク付けし、代名詞を入れ替え、ユーザーのメッセージの一部をスクリプト化されたテンプレートに挿入することで生成しました。
ELIZA effectとは何ですか？
ELIZA effectとは、たとえその応答が単純なルールに基づいている場合であっても、コンピュータプログラムに対して理解や共感があると思い込んでしまう傾向のことです。
なぜELIZAは現代のAIにとって重要なのでしょうか？
ELIZAは、会話だけで人々が理解や繋がりを感じる印象を抱く可能性があることを示しており、この懸念は、より高性能なチャットボットが存在する現代においても依然として重要です。