DeepMindのAGI計画はすでに始まっている

Google DeepMindは、AGIへの移行が遠い未来のことではなく、今まさに始まっていると明確に宣言しました。「知能を解明する」という純粋に理論的な探求から脱却し、世界をリードするこのAI研究所は、人間レベルのAIの到来に向けた実用的な準備へと決定的に舵を切るため、常設のAGI Instituteを立ち上げました。これは単なる企業のブランド刷新ではなく、組織的な再調整です。

共同創設者のDemis HassabisとチーフAGIサイエンティストのShane Leggは、驚くほど明確に語っています。彼らは「移行は始まっている」と明言し、社会は以下を含む変化した状況に備えなければならないと述べています。

• AIエージェントの急増
• サイバーリスクおよび生物学的リスクの拡大
• 将来の自己改善型システムによる制御喪失の可能性

この動きは、単なる製品アップデートや新しいGeminiモデルに関するブログ投稿を超越しています。Google、DeepMind、そして学術界の研究者を結集したDeepMind Instituteは、極めて重要な組織的シグナルとして機能します。それは、AGI競争の最終的かつ決定的なフェーズには、全く新しいルール、包括的なガバナンス、そして緊急の公的関与が必要であることを発信しています。そのメッセージは極めて明確です。世界で最も先進的なAI思想家たちは、未来はもはや理論上の話ではなく、今そこにある現実だと考えているのです。

AGIという言葉の普及に貢献したチーフAGIサイエンティストのShane Leggは、「2028年までに『最小限のAGI』が実現する確率は50%」という大胆な予測を堅持しています。これは遠い理論上の地平線ではなく、わずか数年後のことです。彼がこの具体的なタイムラインを再確認したことは、Google DeepMindが抽象的な問題解決から即時のAGI準備へと組織的にシフトし、大胆な公的目標を設定したことを強調しています。

研究所が時期尚早に勝利を宣言することを防ぐことが最優先事項です。そのために、Google DeepMindの研究所は、単一のベンチマークを超えて知能を客観的に測定するように設計された、堅牢な認知フレームワークであるAGI「スコアカード」を積極的に構築しています。このシステムは、以下を含む10の異なる能力にわたってAIの能力を評価します。

• 創造性
• 記憶力
• 継続的学習

目標は、単純な合格/不合格ではなく、強みと弱みを明らかにする包括的な認知プロファイルを作成することです。

公的で野心的な期限と、透明性の高い公開測定システムを組み合わせたこの二段構えのアプローチは、極めて戦略的な動きです。Google DeepMindは単にAGIの到来に備えているだけでなく、AGIとは何か、そしてそれが到来したことを私たちがどのように知るのかを先回りして定義しています。重要なのは、他の組織や一般大衆が独自の解釈を押し付ける前に、強力なナラティブとフレームワークを確立し、グローバルな議論を形成しているという点です。

DeepMindのInstituteは、再帰的に自己改善するシステムの核心的なリスクに明確に対処しています。これは瞬間的な超知能の話ではなく、絶え間なく加速するフィードバックループの話です。AIエージェントが、より強力な次世代AIの設計、コーディング、テスト、トレーニングに実質的に貢献するのです。何千ものエージェントが研究タスクを実行し、改善点を特定し、評価を実行し、最適な結果を次のトレーニングサイクルにフィードバックします。AI自身が進化を推進するため、作業の圧倒的なスピードと量により、人間による監視が制限される中、各反復におけるわずかな進歩さえも重大な意味を持つようになります。

この自己改善は、深刻な安全性のパラドックスを生み出します。モデルの能力が向上するにつれ、その内部推論はしばしば不透明になります。DeepMindの安全性リーダーたちは、AIの思考プロセスを理解するための最良の窓口である「chain of thought（思考の連鎖）」が閉ざされつつあると警告しています。現在、これらの痕跡は、モデルが不正を試みたり、欺瞞を計画したり、誤解したりした際にそれを明らかにしています。しかし、将来のシステムは数値表現の中でより効率的に推論を行うようになる可能性があり、人間には読み取れず、安全でない意図を検出することが不可能になる恐れがあります。

その結果、重要な研究目標は、モデルが確実に「monitorable（監視可能）」であり続けるようにすることです。研究者は、モデルの透明性を測定し、監視を回避しようとする試みをストレッチテストし、重要な推論を明らかにするアーキテクチャを維持する方法を開発しなければなりません。トレーニング報酬の監査も不可欠であり、モデルが疑わしい思考を隠すことを誤って学習するのを防ぐ必要があります。研究所の目標は、AIが自身の開発において重要な役割を担うようになる中で必要な安全策として、安全性と優れたパフォーマンスをトレードオフにしないことです。

DeepMindは現在、プロアクティブな安全性への根本的な転換として「Frontier AI Standards Body（フロンティアAI基準機関）」を提案しています。この機関は、強力なモデルのリリース前の独立したテストを義務付け、失敗に対する事後的な調査を超えた対応を目指します。企業は、公開の最大30日前に最も先進的なシステムを自主的に共有し、重要かつ予防的な評価を可能にします。

一方、DeepMindの経済チームは、AGIによる広範な「job displacement（雇用喪失）」を伴う未来をすでにモデル化しています。彼らの研究は、抽象的な予測ではなく、賃金、失業期間、労働分配率といった具体的で現実世界のデータに基づいた政策のトリガーを提案しています。彼らは、広範な経済変化のシナリオを含む、AGIによる混乱に対する11の対応策を比較検討しました。

これは深刻な緊張関係を生み出しています。AGI開発の先頭に立つ企業が、同時にその安全性、ガバナンス、そして適切な社会的対応を定義する立場にあるからです。DeepMindはこれらをGoogleの公式見解ではなく「対話のきっかけ」と位置づけていますが、研究所のリーダーシップにはDeepMindの共同創設者兼チーフAGIサイエンティストが含まれています。これにより、DeepMindはAGIの未来とその世界的な影響力に対して、おそらく前例のない「influence（影響力）」を持つことになります。

Google DeepMind Instituteとは何ですか？

これはGoogle DeepMind内の新しい常設組織であり、人間レベルのAIに近づくにつれて、AGIをどのように構築し、測定し、管理し、安全に使用すべきかを研究することに専念しています。

Shane LeggによるAGIのタイムラインはどのようなものですか？

DeepMindのチーフAGIサイエンティストであるShane Leggは、2028年までに最小限のAGI（幅広い認知タスクにおいて人間レベルのパフォーマンス）に到達する確率が50%であることに違和感はないと述べています。

なぜ「自己改善型AI」が研究所の主要な焦点なのですか？

自己改善型AIは、エージェントが人間による監督よりも速く自身の開発を加速させる急速なフィードバックループを生み出す可能性があり、重大な安全性と制御のリスクをもたらします。

DeepMindはどのようにAGIを測定する計画ですか？

彼らは、単一タスクのベンチマークを超えて、包括的なAGIの「スコアカード」を作成するために、10の異なる知能領域にわたってモデルの能力をプロファイリングする認知フレームワークを開発しています。