GoogleのAGIに関する秘密計画

Google DeepMindのCEOであるデミス・ハサビスは、厳しい警告と驚くべきタイムラインを発表しました。汎用人工知能（AGI）は遠い夢ではなく、差し迫った現実であり、おそらく「あと数年」で実現するだろうと。彼はその到来を3年から5年以内と具体的に見積もっており、AIイノベーションの最前線に立つ人物からの大胆な予測です。

ハサビスはAGIの計り知れない影響について言葉を濁しません。彼はその可能性をインターネットやモバイル技術ではなく、火や電気のような人類の根源的な発見に例えています。このようなパラダイムシフトは、医薬品開発の加速からクリーンエネルギー源の開発まで、地球規模の重要な課題を解決することで「豊かな新時代」をもたらす可能性があります。しかし、この約束には前例のないリスクも同等に含まれています。

ハサビスは、現在のAI開発は避けられない深刻な衝突に向かって「線路を走る列車」に似ていると主張します。強力なモデルの急速で無制限な普及には、即座の構造的な介入が必要です。彼は「フロンティアAI標準のための新しいフレームワーク」を提唱し、企業が厳格で適応性のあるテストと監視なしに、極めて強力なモデルを一方的にリリースすべきではないと強調しています。

ハサビスのAGIロードマップはアルゴリズムからではなく、分類から始まります。初期段階では、明確な「能力閾値」を設定するための新しい標準化団体を提案しています。この重要なベンチマークは、日常的なAIシステムと、特別な注意を要するごく一部の「非常に強力なモデル」を区別するものです。

重要なことに、この分類はモデルの固有の能力に完全に依存し、開発者の評判や規模には依存しません。小規模なスタートアップの強力なモデルが「フロンティアモデル」として認定される可能性がある一方で、大手テクノロジー企業の能力の低い製品はそうではありません。これにより、企業ブランドではなく、潜在的な影響が審査の対象となります。

ベンチマークは具体的な行動を測定し、以下の能力を持つシステムを特定します。 - 高度なコーディング - 科学研究 - サイバーセキュリティの悪用 - 長期計画 - 自律的なタスク完了

この二段階システムは、明確な規制経路を生み出します。カスタマーサービスチャットボットや大学の研究モデルのようなほとんどのAIツールは、閾値以下で自由に運用されます。しかし、定義された能力閾値を超えるシステムは、厳格で専門的な安全性および監視プロトコルをトリガーし、最も強力なAIが指定されたフロンティアモデルとして最高の精査を受けることを保証します。

モデルが「フロンティア」AIとして指定された瞬間、それは試練の場に入ります。義務的な独立評価です。開発者、つまり現在公式にはフロンティアラボは、厳格なローンチ前評価のために指定された外部機関にシステムを提出しなければなりません。このプロセスは、例えば30日間かかる可能性があります。これは単なる形式的なものではなく、時期尚早で壊滅的な結果をもたらす可能性のある公開リリースに対する重要な障壁です。

独立した専門家は徹底的なテストを実施し、特に国家安全保障および公共の安全に対する重大なリスクを調査します。彼らはAIが真に危険な行動を示す可能性を精査します。 - 欺瞞、その真の意図や能力を偽装すること - 自身の組み込み安全制限の回避 - 危険な、指示されていないレベルの自律性での動作

この包括的な試練は、最も高度なAIシステムの一部が日の目を見ない可能性を意味します。モデルがあまりにも不安定または予測不可能であることが判明した場合、その公開展開は永久に差し控えられます。これは単に事故を防ぐことだけではありません。すべての技術的飛躍が本質的に有益であるとは限らないという認識に関するものであり、Google DeepMind CEOのDemis Hassabisが彼のフレームワークに関する議論Demis Hassabis on X: "A Framework for Frontier AI and the Dawning of a New Age"で表明した感情と一致しています。その危機は実存的であり、このリリース前の警戒が究極のセーフティネットを形成します。

静的な評価システムは、効果的な監視にとって死刑宣告です。真にフロンティアモデルを監視するためには、提案された標準化団体は、ベンチマークを絶えず進化させ、3ヶ月ごとにテストを更新する必要があります。これは、研究室が単に「試験対策」をしてシステムを欺くことを防ぐために特別に設計された、非公開の保留された評価の継続的なサイクルを要求します。

当初、この厳格な評価フレームワークは自主的な基準で運用されます。この重要な段階により、標準化団体はその技術的信頼性を築き、具体的な有効性を示し、保護しようとするイノベーションを直ちに窒息させることなくその価値を証明することができます。これは、権力を行使する前に信頼を築く、実用的な第一歩です。

しかし、最終的には、任意のシステムは全く安全策になりません。この計画の最終的かつ不可欠な段階は、この実績のあるフレームワークを法的要件へと移行させます。これらの安全性評価に合格することは、モデル展開の絶対的な前提条件となり、FDAが新しい医薬品に課す厳格で義務的な承認プロセスを反映します。ガードレールから義務へのこの移行は、世界を変える可能性のあるAGIに対する説明責任を確実にします。

動的なテストと自主的な採用から最終的な法的執行に至るこの多段階アプローチは、遅ればせながらも深い認識を強調しています。AGIの計り知れない力は、同様に計り知れない、法的に拘束力のある安全性へのコミットメントを要求します。Demis Hassabisのビジョンは、人類がこれまでに考案した中で最も変革的なテクノロジーをナビゲートするための、大胆で必要な青写真です。

このフレームワークによると、「フロンティアAIモデル」とは何ですか？

特定の能力閾値を超え、追加の安全性監視を必要とする非常に強力なAIモデルです。分類は、モデルができること（例：高度なコーディング、自律的なタスク）に基づいており、それを構築した会社の規模や身元に基づくものではありません。

Demis Hassabisが提案するAGIのタイムラインは何ですか？

彼はAGIが「あと数年」であると述べており、これは広く3〜5年のタイムラインと解釈されています。この認識された近接性は、堅牢な安全性および展開フレームワークの緊急の必要性を浮き彫りにします。

AGIモデルは公開前にどのようにテストされますか？

フロンティア研究室は、厳格な評価のために独立した標準化団体にモデルを提出することが義務付けられます。これらのテストは、サイバーセキュリティの脆弱性の悪用、生物学的脅威への支援、欺瞞、制御不能な自律性などの危険な能力をスクリーニングします。

AGIの安全性テストはなぜそれほど頻繁に更新する必要があるのですか？

AIの能力は指数関数的に進歩しています。今日困難なベンチマークも、6ヶ月後には些細なものになる可能性があります。このフレームワークは、評価が有意義で効果的であり続けることを保証するために、研究室が訓練できない非公開のテストを含む、定期的に更新される動的なテストを求めています。