インテリジェンス・エクスプロージョン（知能爆発）はもはやSFではない
人工知能は現在、再帰的自己改善（Recursive Self-Improvement: RSI）に近づいています。Matthew Berman氏はこれを、AIが人間の介入なしに新しい知識（数学さえも含む）を自律的に発見し、その能力を強化することだと説明しています。AIは実験を提案し、実行し、成功と失敗を見極め、絶え間なく反復することで、自身の進化を加速させています。
この創発的な能力は、「インテリジェンス・エクスプロージョン」という概念を直接的に想起させます。I.J. Good氏が1965年に初めて提唱したこの概念は、機械がより知的な機械を設計し、指数関数的な自己改善の連鎖を引き起こす可能性があるというものです。後にNick Bostrom氏が『Superintelligence』の中でこの概念を体系化しました。
かつては哲学的な思考実験であったスーパーインテリジェンス（超知能）は、差し迫ったエンジニアリングの課題となりました。2026年9月、OpenAIのチーフサイエンティストであるJakub Pachocki氏は、潜在的なRSIについて「極めて慎重になる必要がある」と警告し、「その結果に対して誰も準備ができていない」と強調しました。同時に、AnthropicのEvan Hubinger氏は「AIが全人類を殺す可能性がある」との見解を示し、今後10年以内にその確率が10%を超える可能性があると推定し、Anthropicにはアライメント（整合性）計画が欠如していることを認めました。
同じ月、Anthropicの別の研究者であるJacob Coxon氏は、安全性への懸念から辞任しました。彼は企業が「自己改善するスーパーインテリジェンスへと一直線に突き進み、我々の命を賭け事にしている」と非難しました。OpenAIのCEOであるSam Altman氏は2025年6月、AIエージェントが2026年までに自律的な科学パートナーとなり、10年分の研究を1年に圧縮するだろうと予測しました。インテリジェンス・エクスプロージョンは、もはや遠い未来ではなく、目前に迫った現在なのです。
AIはいかにして次世代のAIを構築しているのか
AIは、完全な自律性を達成していない段階でも、自身の開発を劇的に加速させています。例えばAnthropicは、同社のAIであるClaudeが現在、コードベースの80%以上を記述していると報告しています。この劇的な統合により、エンジニアの生産性は8倍に向上しました。
この傾向は業界全体に広がっています。OpenAIは、「自動化されたAIリサーチインターン」を開発するという内部目標を公然と掲げています。このようなシステムは、独立して実験を行い、結果を分析し、AIモデルへの改善を提案するものであり、研究室内での自律的な開発に向けた明確な軌道を示しています。
現在の状態は、Matthew Berman氏が説明する完全自律的な再帰的自己改善とは異なる、「RSIに近い（RSI-adjacent）」段階を表しています。AIはまだ人間の監視を「一切」受けずに知識を発見し、自身のコアアーキテクチャを書き換えているわけではありませんが、強力なフィードバックループを形成しています。ここでは、AIが人間の監督と戦略的指示の下で、自身の進化を実質的に加速させています。
これらのAIツールはフォースマルチプライヤー（戦力倍増器）として機能し、人間の開発者がより迅速に反復し、より複雑なアーキテクチャの変更を探求することを可能にします。AIは自身の洗練を支援し、AI分野全体における発見と展開のペースを加速させています。この共生関係が、AIが達成できる限界を押し広げているのです。
AIは人間の発見能力を追い越している
AIは現在、純粋数学において前例のない能力を発揮しています。システムは複雑な国際数学オリンピックの問題を解き始め、特にリーマン予想（Riemann zeta function）の境界を改善するなど、数論に対して根本的な貢献を果たしました。これらの成果は、抽象的な推論と新しい発見に対するAIの能力が高まっていることを裏付けています。
応用科学の分野においても、AIの影響は同様に甚大です。例えば、Google DeepMindのAlphaEvolveは、AIそのものの基礎的な計算である「行列乗算アルゴリズム」の新しい手法を発見し、56年間破られなかった記録を塗り替えました。これは、AIが人間の直感をはるかに超えて、基本的な計算プロセスを最適化できる能力を持っていることを証明しています。
おそらく最も重要なマイルストーンは、Sakana AIの「The AI Scientist」の登場でしょう。このシステムは研究を行うだけでなく、その成果が極めて厳格な査読付きジャーナルである『Nature』に掲載されました。これは、AIが仮説の生成から実験計画、論文発表に至るまで、人間の介入なしに科学的プロセス全体を管理できることを証明したものです。AIが自らの開発において果たす役割の進化について、詳しくは「When AI builds itself」をご覧ください。これは、AIが自律的な発見のエンジンとなるという極めて重要な転換点を示しています。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
制御という解決不可能な問題
Anthropicのアライメント・サイエンス・リードであるHubingerは、2026年9月に厳しい警告を発しました。彼と同僚たちは「AIが全人類を滅ぼす可能性があると真剣に信じており」、今後10年以内にその可能性が10%を超えると推定し、Anthropicには「スーパーインテリジェンスのためのアライメント」に対する明確な計画がないことを認めました。同じ月、Anthropicの別の研究者であるJacob Coxonは、安全上の懸念から辞任し、企業が「自己改善するスーパーインテリジェンスへと一直線に突き進み、我々の命を賭け事にしている」と非難しました。
この悲観的な見通しは、根本的な「アライメント問題」に起因しています。それは、自らを劇的に改善できるAIが、人類にとって有益な目標を追求し続けることを保証するという問題です。AIが自律的に反復を繰り返すたびに、その内部論理や目的が乖離していく可能性があり、特にその知能が人間の理解を超えた場合、将来の行動がアライメントを維持し続けることを保証することは指数関数的に困難になります。
OpenAIのチーフサイエンティストであるJakub Pachockiも2026年9月に同様の懸念を表明し、再帰的な自己改善が差し迫っている可能性について「極めて慎重になるべき時である」と警告しました。さらに、「機械知能の急速な上昇が続くことによる結果に対して、誰も準備ができていない」と付け加えました。これらの緊急の警告は、世界的な一時停止を求める声を強めており、「再帰的ループ」が制御不能になり、決定的な「存続リスク」をもたらす前に、強固な安全ガードレールを確立するための、急速に閉じつつある重要な機会であることを示しています。
よくある質問
AIにおける再帰的自己改善（RSI）とは何ですか？
RSIとは、AIシステムが自らの能力を含むAI能力の向上に寄与し、改善の複合的なループを生み出すことを指します。これには、AIが人間の開発者を支援することから、仮説上の完全自律型AIが自らのアップグレードを設計することまでが含まれます。
完全自律型の自己改善AIはすでに現実のものとなっていますか？
まだです。AIが人間の監視なしに自らのコードを書き換える完全自律型のRSIは、依然として理論上のものです。しかし、AIはすでに人間の監督下で新しいAIシステムの開発を大幅に加速させています。
なぜトップクラスのAI研究者はRSIをこれほど懸念しているのですか？
専門家は、急速な再帰的知能爆発が、人間の制御や理解を超えるAIシステムにつながることを懸念しています。そのようなシステムが人間の価値観と一致し続けることを保証することは、未解決の大きな課題です。
AIが支援するAI開発の実際の例にはどのようなものがありますか？
Anthropicは、同社のAIであるClaudeが現在、新しいコードの80%以上を記述していると報告しています。GoogleのAlphaEvolveは自律的に新しいアルゴリズムを発見しました。これらは、完全なRSIへの道における具体的なステップです。