ZuckerbergによるAnthropicへのAIクーデター

Mark Zuckerbergの最近のエッセイ「The Future is for Everyone」は、AIの進むべき道に関する一般的な通説に挑戦状を叩きつけた。彼が考えるスーパーインテリジェンスのビジョンは、以下の3つの核心的な原則に基づいている。 - 繁栄の源泉としての個人のエンパワーメント - 主な目的としての発明（自動化ではない） - 安全性の基盤としての権力の均衡

この哲学は、中央集権的な管理を提唱するテクノクラート的な特権階級の台頭と真っ向から対立している。Metaは、AIを広く普及させ、誰もがそれを指揮できるようにすることが人類にとって最も安全で有益な道であると信じ、断固としてオープンソースの精神を擁護している。これは、安全性が一部の選ばれた人々によってAIの機能とアクセスを決定することから生まれるという、Anthropicの「我々が最もよく知っている」という閉鎖的なアプローチとは対照的である。彼らは人類の運命に対する専門性を主張し、メシア的な雰囲気を漂わせている。

CEOのDario Amodeiが主導するAnthropicの姿勢は、不条理に近い。Amodeiは「ホワイトカラーの血の海」を予測したと報じられているが、彼の会社は彼自身が引き起こすと主張する技術を構築し続けている。Zuckerbergは鋭く指摘する。「AIがほとんどの仕事と人類の関連性の多くを排除すると信じている人が、なぜその未来を急いで構築しようとするのか理解できない」。この本質的な矛盾は、AIの未来の自称守護者としての彼らの根本的な欠陥を露呈しており、その動機に疑問を投げかけている。

Zuckerbergは、AIの権力を集中させることが安全を保証するという考えに真っ向から異議を唱え、Anthropicのような組織が提唱するこの道は本質的に問題があると主張している。彼は警告する。「歴史的に見て、十分に啓蒙された絶対的な権力が人類に善意をもたらすことを期待しても、安全でポジティブな結果にはつながらなかった」。これは、「権力は腐敗する。絶対的な権力は絶対的に腐敗する」という時代を超えた格言を反映している。

単一の「アライメントされた」スーパーインテリジェンスを提唱することの根本的な欠陥は、普遍的な人間的価値観というナイーブな前提にある。「最善」が主観的であり、数十億の個人の利益の間で絶えず進化している中で、どれほど善意があっても、少数の専門家グループが「人類にとって最善」を決定することなど不可能である。より安全な代替案として提示されるこの中央集権的な管理は、善意の専制となるリスクを孕んでいる。

この議論は、自由と管理の対立である。Zuckerbergは、AIの安全性の真の基盤として個人のエンパワーメントと権力の均衡を擁護しており、AIの巨大な能力を管理できるのは自分たちだけだと信じる人々が好む、制限的で聖職者的なアプローチとは鋭く対照的である。歴史は、どれほど崇高な目標を掲げても、権力の集中は必然的に失敗を招き、豊かさと個人の繁栄を促進するどころか、発明と個人の主体性を抑圧することを繰り返し証明してきた。中央集権的な権力という「より安全な」道は、単なる馴染み深い管理の形態に過ぎず、失敗する運命にある。

AIに対する一般的な恐怖に対するZuckerbergの対抗ナラティブは単純である。スーパーインテリジェンスを定義するのは自動化ではなく、発明である。彼は「ホワイトカラーの血の海」というレトリックを否定し、AIがこれまで採算が取れなかった、あるいは対処不可能だった膨大な「ロングテール」の問題を解決し、すべての人に前例のない繁栄と豊かさをもたらすと主張している。

この哲学は、超効率的な起業家精神の新時代の基礎を築くものです。AIエージェントが24時間365日稼働し、創造を民主化し、参入障壁を劇的に下げることで実現する、1人による10億ドル規模の企業を想像してみてください。これは単に既存のタスクを高速化するということではなく、全く新しい可能性を発明するということです。

具体的な事例が、この未来の説得力のある姿を描き出します。すべての学生が利用できる博士レベルの知識を持つパーソナライズされた家庭教師や、希少疾患の創薬を加速させ、医学研究を一変させるような未来です。個々のエージェントは、以下のような分野を絶え間なく最適化します：

• 人間関係
• 健康
• キャリア
• 財務
• 家事管理
• 趣味

AIを通じたこのような遍在的な個人のエンパワーメントは、人間の時間とエネルギーをより高次の追求へと解放します。Zuckerbergのビジョンをより深く掘り下げるには、彼の論文The Future is for Everyoneを参照してください。これはユートピア的な空想ではなく、AIの計り知れない力を分配するための戦略的な青写真です。

「The Future is for Everyone」に明記されたZuckerbergのAIビジョンは、「個人のエンパワーメント」と「豊かさ」を擁護し、超知能が普遍的なツールとなる未来を描いています。しかし、この高潔な理想は、AIの経済的現実と激しく衝突します。最も強力なモデルへのアクセスは計算資源（compute power）によって決定されるからです。Zuckerberg自身の論文も、これらの希少で重要なリソースを割り当てるための「動的なオークションメカニズム」に言及しており、このことを示唆しています。

これは単なる些細な詳細ではなく、中心的な矛盾です。計算資源がオークションにかけられるシステムは、必然的に永続的なアンダークラスを生み出します。優れた資本を持つ富裕層は不釣り合いな計算資源を支配し、彼らの超知能エージェントは他の誰にも手の届かない規模、速度、洗練度で動作することになります。これは単なる優位性の話ではありません。資本がアクセス権だけでなく、AI主導の未来における優れたエージェンシー（主体性）をも買い取り、金融から研究に至るあらゆる分野で彼らのリードを加速させるという、指数関数的な格差なのです。

Metaは、誰もがAIを持つことで「力の均衡が安全の基盤となる」と信じ、オープンソースAIを究極の民主化ツールとして擁護しています。しかし、最も強力なAI機能が最高入札者にのみ予約され、実質的に一部の特権階級のためのスーパーエージェントを生み出すのであれば、真の個人のエンパワーメントは実現するのでしょうか？このモデルは既存の社会経済的な分断を固定化し、「すべての人のための」未来という約束を、富裕層だけが超知能を真に活用できるという、多くの人々にとっての空虚な響きに変えてしまうリスクを孕んでいます。

Mark ZuckerbergとAnthropicのAI哲学における核心的な対立は何ですか？

ZuckerbergとMetaは、誰もが力を得られるようにAIを広く配布するオープンソースのアプローチを提唱しています。一方、Anthropicは、少数の専門機関のみが超知能を安全に開発・調整できると信じ、クローズドで中央集権的なモデルを主張しています。

オープンソースAIの安全性に関するZuckerbergの主な主張は何ですか？

彼は、真のAI安全性は「力の均衡」から生まれると主張しています。彼は、AIの制御を少数の手に集中させることは本質的に危険で非民主的であり、それを分散させることで単一の組織が絶対的な支配権を握ることを防げると考えています。

ZuckerbergのオープンAIビジョンにおける潜在的な欠陥は何ですか？

彼は手頃な価格でのアクセスを約束していますが、そのモデルは計算リソースのオークションに依存しています。つまり、より多くの資本を持つ者がより強力なAIを購入できるため、潜在的に「永続的なアンダークラス」を生み出し、社会経済的な格差を拡大させ、普遍的なエンパワーメントという目標と矛盾する可能性があります。

ZuckerbergはなぜAnthropicのAIの未来に対する姿勢を矛盾していると見なしているのでしょうか？

彼は、AIが「ホワイトカラーの血の海（大量失業）」を引き起こすと公言しながら、同時にその技術の開発を競っているAnthropicのDario Amodeiのようなリーダーたちの姿勢に疑問を呈しています。Zuckerbergはこれを悲観的かつ「メシア的」なアプローチであると表現しています。