Anthropicの1兆ドル警告

AnthropicのCEOであるダリオ・アモデイは、厳しい警告を発しました。自主的なAIの安全性は危険な幻想であると。彼は、安全でないモデルの展開を完全に阻止する権限を持つ規制機関を構想し、拘束力のある政府介入を要求しています。これは穏やかな監視を求めるものではなく、単なる透明性や自己統治をはるかに超え、法の全面的な力で安全基準を施行する権限を与えられたAI版連邦航空局（FAA）の設立を求めるものです。

その大胆さを考えてみてください。熾烈なAI競争のリーダーが、自社のスピードを落とす審判を積極的に提唱しているのです。独占インタビューで、アモデイはこれを選択ではなく、切迫した必要性として位置づけました。彼は開発者に責任があることを認めつつも、指数関数的なAIの進歩が既存の安全策を上回り、外部の権威ある介入のみが軽減できるリスクを生み出していると主張しています。この前例のない訴えは、業界の最高層における深い不安を明らかにしています。

アモデイの提案は抽象的ではなく、具体的です。彼は、この厳格な監視の具体的な引き金として、「フロンティアモデル」—10^25浮動小数点演算（FLOPs）を超える計算量で訓練されたAIシステム—を標的にしています。彼自身の会社のClaude Mythos Previewが数千ものソフトウェアの脆弱性を発見したことは転換点となり、監視されていないAIがもたらす差し迫った具体的な危険性を示しました。これは理論的な懸念ではなく、すでに観察された能力への直接的な対応です。

AnthropicのCEOであるダリオ・アモデイがAIの潜在的な力の規模を真に理解した瞬間は、理論的なものではなく、社内で構築されたものでした。ソフトウェアの脆弱性を見つけるために開発された大規模言語モデルであるClaude Mythosは、Anthropicにとって身の毛もよだつような警鐘となりました。テスト中、Mythosは主要なオペレーティングシステムやブラウザ全体で数千ものバグや欠陥を悪用し、予想をはるかに超えるサイバー攻撃能力を示しました。

この強力なデュアルユースAI能力の社内デモンストレーションは、アモデイにとって地政学的な不安へとすぐに変わりました。彼は中国を明確に不信視し、「もし中国がMythosを構築していたらどうなるか想像してみてください？」と問いかけました。彼は、敵対者がそのようなツールを米国への攻撃に、あるいは以下の国々を支援するために使用する可能性を想定しました。 - ウクライナにおけるロシア - イラン - 北朝鮮

Anthropic内に封じ込められたこのモデルの力は、もしそのような技術が敵対的な手に渡った場合の恐ろしい可能性を浮き彫りにしました。

公開されることのなかったMythosは、Anthropic内部の議論を決定的に変えました。壊滅的なAIリスクはもはや抽象的なものではなく、具体的で、実証され、そして会社自身によって生み出されたものでした。差し迫った、自社で生成された脅威とのこの直接的な遭遇は、自主的な安全対策では不十分であり、堅牢なFAAスタイルのグローバル規制が必要であるというアモデイの確信を固めました。

アモデイはAIの存亡に関わる脅威だけでなく、その経済的影響についても同様に懸念しています。労働市場の混乱を軽減するための彼の提案は、実用的な短期的な解決策から、真に抜本的な長期的な改革まで多岐にわたります。これは単なる雇用の置き換えにとどまらず、人間労働の価値をどのように評価するかという根本的な変化に関わるものです。

近い将来、Amodeiは賃金再保険、解雇を抑止するための雇用維持インセンティブ、失業保険の改善といった政府の介入を提案しています。これらの措置は、彼が「でこぼこしているが比較的通常の移行」と呼ぶものを円滑にすることを目的としています。しかし、「通常」は終わるかもしれません。長期的に見れば、彼はユニバーサル・ベーシック・インカム（UBI）やユニバーサル資本口座のような、より大胆な概念を提唱しています。

このような広範な社会保障制度の資金調達には、同様に大胆な発想が求められます。Amodeiは明確に、キャピタルゲイン税の引き上げ、AI企業への直接課税の導入、または法人税の一般的な引き上げを提案しています。これらは控えめな調整ではなく、AIブームによって生み出された富の根本的な再分配を意味します。これらの政策分野の詳細については、詳細なAIの指数関数的成長に関する政策 - Anthropicを参照してください。

Anthropicは口先だけではありません。同社は、AIによる経済的混乱に対処するため、専用の経済未来研究基金を含め、3億5000万ドルという多額の資金を投入しています。この投資は、Anthropicが有言実行であり、AIの雇用への影響を積極的に研究し、潜在的な公共政策ソリューションを試験的に導入していることを明確に示しています。

Amodeiの政府介入への熱烈な訴えは、公共の安全の義務として位置づけられているものの、戦略的な駆け引きの匂いが強く漂っています。彼の提案するFAA型規制は、政府に危険なAIモデルをブロックする権限を与えるもので、莫大なコンプライアンスコストを課すことになるでしょう。これは単に安全性に関する問題だけでなく、潜在的な市場凍結であり、新興AIスタートアップにとって乗り越えられない障壁を作り出し、すでに堅牢な安全フレームワークと、AIの経済的混乱に対処するためにコミットされた3億5000万ドルを含む多額の研究開発投資を誇るAnthropicのような資金力のあるプレイヤーにとって、戦略的な堀を固めることになります。

このビジョンは、現在のアメリカの現実とは大きく対照的です。トランプ大統領政権は、AIガバナンスに対して「軽度な規制」アプローチを好み、結果として規制環境が断片化しました。Amodeiは、展開を停止させる前例のない連邦政府の権限を要求しており、これは今日の新興州法と自主的なガイドラインの寄せ集めとはかけ離れています。

最終的に、Anthropicの「安全性第一」というブランドは、抜け目のない競争上の差別化要因です。OpenAIやGoogleのような競合他社に対して、この物語はAnthropicを高度なAIの責任ある管理者として位置づけています。同社が大規模なIPOを視野に入れている中、この原則的な姿勢は単なる利他主義ではなく、急速に進化する高リスク市場において倫理的な開発を優先する投資家や顧客を引きつける強力な資産となっています。

AnthropicのCEOはなぜAI規制を求めているのですか？

Dario Amodeiは、AIが急速に進歩しており、生物兵器の製造や大規模なサイバー攻撃を可能にするなど、自主的な業界対策では抑えきれない壊滅的なリスクをもたらすと考えています。

Amodeiが提案する「AI版FAA」モデルとは何ですか？

彼は、FAAが航空安全を規制するのと同様に、強制的な技術テストを実施し、許容できないほど危険と見なされる「フロンティアAIモデル」の展開を阻止する権限を持つ政府機関を提案しています。

Claude Mythosとは何ですか、なぜ重要なのでしょうか？

Claude Mythosは、ソフトウェアの脆弱性を見つけるために設計されたAnthropicのAIモデルです。何千もの重大なバグを発見するその能力は、Amodeiに、このような強力なツールが悪意のある行為者による悪用を防ぐために世界的な規制が必要であると確信させました。

AmodeiはAIの雇用への影響にどう対処することを提案していますか？

彼は、賃金再保険や失業手当の改善といった短期的な政府支援、そしてAI企業への新たな課税やキャピタルゲインによって資金調達されるユニバーサルベーシックインカムのような長期的なアイデアを提案しています。