要約 / ポイント
AGIの誇大広告列車が脱線したばかり
Google DeepMindのCEOであるDemis Hassabisは、急成長するAGIの誇大広告に対し、今日のAIシステムは「AGIにはほど遠い」と断言し、厳しい現実を突きつけた。彼の定義は非常に高いハードルを設定している。それは、真の発明、継続的な学習、長期的な計画を含む人間の認知能力の全範囲を示すことができるシステムである。この視点は、印象的な狭い範囲でのパフォーマンスを汎用知能と同一視しがちな、業界の一般的な物語に真っ向から異議を唱えるものだ。
Hassabisは、OpenAIによる離散幾何学におけるErdos conjecture（1946年以来未解決の問題）の最近の反証のような重要なブレークスルーでさえ、AGIを意味するものではないと主張する。特定の領域では優れているものの、現在のモデルには、信頼できる推論、ラマヌジャンのような真の創造性、単なるタスク実行を超えた堅牢な計画といった重要な要素が依然として欠けている。彼らは印象的な答えを出すことには長けているが、人間の認知に固有の一貫性と幅広い理解に苦慮している。
主要なAGI研究機関であるGoogle DeepMindのトップからの発言であるため、Hassabisの声明は計り知れない重みを持つ。彼は、AGIがすでに到来した、あるいは差し迫っているという広範な信念に真っ向から反論し、現在のAIの「ギザギザな知能」を強調している。これらのシステムは、一部の領域では最高のパフォーマンスを示すが、明示的でハック的な防止策なしにモデルがランダムで無関係な用語を挿入する悪名高い「ゴブリン」現象のような、予測不可能な失敗モードに悩まされている。この一貫性の欠如は、真のAGIと比較した場合の彼らの不完全な性質を浮き彫りにしている。
華麗で、壊れていて、混乱を招く
OpenAIは最近、離散幾何学における中心的な予想を反証することで、AIの特定の驚異的な能力を示した。平面単位距離に関連するこの問題は、1946年にPaul Erdosによって最初に提起され、約80年間未解決のままだった。OpenAIのモデルは、後に外部の数学者によって検証された証明を生成し、高度な数学的推論を示した。
このような偉業にもかかわらず、現在のAIシステムは、Andrej Karpathyによって造語された「ギザギザな知能」を示す。彼らは狭い領域では超人的なパフォーマンスを発揮するが、他の領域では予測不能な失敗をする。この一貫性の欠如は、幅広い理解と信頼できる認知の根本的な欠如を浮き彫りにしており、人間の汎用知能とは対照的である。
AIの失敗モードは、しばしば奇妙で人間らしくないものに見える。Gary Marcusは、システムが説明もなくランダムな出力に「ゴブリン」のような単語を挿入する例を挙げている。これらの奇妙な点を軽減するには、システムプロンプトに「ハック的なゴブリン特有の粗悪なもの」が必要であり、真の理解よりも力ずくのパッチ適用に依存していることを示している。
Marcusはこのアプローチをコンピューターサイエンスではなく「錬金術」と批判し、深いシステム的な矛盾を反映した「1兆ドルの大惨事」と呼んでいる。これらの奇妙な振る舞いは、高度なモデルでさえ真のAGIに必要な一貫した、根拠のある理解を欠いており、強力だが脆弱なパターン認識で動作していることを強調している。
AGIは単なる無意味なバズワードなのか？
しかし、誰もがHassabisの慎重な姿勢に同意しているわけではない。ベンチャーキャピタリストのMarc Andreessenは、もし人間が今日の主要なAIモデルの複合的なスキル（複雑な数学的予想を解き、コードを生成し、密な文書を要約する）を示したとしたら、我々は彼らを天才と断言するだろうと主張している。この視点は、これらのシステムがすでに持っている、驚くべき、しかし一貫性のない能力を浮き彫りにしている。
実際、AGIの定義そのものが多くの混乱を生んでいます。OpenAIの取締役であるヘレン・トナーはXで、「AGI」はほとんど役に立たない言葉になっていると示唆しました。人々はそれを、専門家チャットボットから真に意識を持ち自己認識する機械まで、非常に多様に定義しています。この意味の広がりが、生産的な議論を曖昧にしています。
AGIが「到来した」かどうかを議論する代わりに、より実りあるアプローチは焦点を移すことです。私たちはAIが現在持っている特定の能力を正確に特定し、まだ欠けている重要な能力を識別しなければなりません。デミス・ハサビス自身も、今日のシステムは、その狭い分野での輝きにもかかわらず、真の発明と一貫した信頼性を欠いていることを認めています。ハサビスの見解の詳細については、DeepMind: CEO Demis Hassabis says AGI Lags Human Reasoning | Technology Magazineをご覧ください。
この再構築により、私たちは抽象的な哲学的議論を超えて進むことができます。それは、具体的な進歩と特定可能なギャップに基づいて議論を進め、AIの進化を評価するためのより明確な指標を提供します。印象的な狭いAIから捉えどころのない汎用人工知能まで、これらの異なるレベルの知能を理解することが依然として最も重要です。
AGIへの真のロードマップ
真のAGIを達成するには、孤立した輝き以上のものが必要です。デミス・ハサビスは、今日のAIシステムに欠けている5つの主要な要素を一貫して指摘しています。これらの重要なギャップには以下が含まれます。 - 長期的な信頼性：長期間にわたる一貫したエラーのない運用を保証すること。 - 完全な自律性：絶え間ない人間の監視や詳細な指示なしにシステムが動作できるようにすること。 - 安定した記憶：モデルが広範な文脈と期間にわたって情報を保持し、想起できるようにすること。 - 根拠のある推論：抽象的な知識を現実世界の理解と物理法則に結びつけること。 - 真の発明：パターン認識を超えた、斬新な創造と科学的ブレークスルーの能力。
ハサビスは、その厳格な定義にもかかわらず、最近、AGIの到来について驚くほど楽観的なタイムラインを提示しました。彼は現在、AGIが早ければ2029年から2030年にも出現する可能性があると予測しており、これは以前の推定から大幅な加速です。この改訂された見通しは、自己方向性とタスクオーケストレーションの強化を約束する洗練された「エージェントシステム」の急速な発展によって主に推進されています。彼は、そのようなシステムが現在の多くの限界を克服すると信じています。
真のAGIがいつ実現するかに関わらず、現在の強力なAIシステムはすでに深く変革をもたらしています。それらを単なる「オートコンプリート」や「高機能チャットボット」として片付けることは、科学、産業、日常生活における彼らの計り知れない影響を見過ごすことになります。これらの急速に進化する能力を、その不完全さにもかかわらず無視することは、いかなる組織や個人にとっても重大な戦略的誤りとなります。これらのAIシステムは単なる未来のプレビューではなく、現在を積極的に形作っています。
よくある質問
Google DeepMindのCEOであるデミス・ハサビスはAGIについて何と述べましたか？
デミス・ハサビスは、現在のAIシステムは「真の発明や深い信頼性のような人間の認知能力の全範囲を欠いている」と主張し、汎用人工知能（AGI）には「ほど遠い」と述べました。
AIにおける「ギザギザの知能（jagged intelligence）」とは何ですか？
研究者アンドレイ・カルパシーによって造語された「ギザギザの知能（jagged intelligence）」は、AIが一部のタスクでは人間を超えるレベルで性能を発揮する一方で、他のタスクでは壊滅的に失敗することがある、という人間のより一貫した認知プロファイルとは異なる特性を説明しています。
AGIの定義はなぜこれほど物議を醸すのでしょうか？
「AGI」という用語は、専門家によって定義が異なるため、議論の的となっています。ある人にとっては専門家レベルのチャットボットを意味し、またある人にとっては自律的で意識のある機械を意味するため、その到来に関する議論は非常に細分化されています。
真のAGIにはどのような主要な能力が欠けているのでしょうか？
AGIに欠けている主要な要素には、長期的な信頼性、真の自律性、安定した記憶、現実世界に基づいた推論、そして割り当てられたタスクを解決する以上の、真に創造的な発明能力が含まれます。