新しいタイプのAIへの50億ドルの賭け
Ilya Sutskeverの新しいベンチャーであるSafe Superintelligence Inc.（SSI）は、AI開発における根本的な転換を示しています。大規模言語モデルの反復的な改善を行う企業とは異なり、SSIは「安全な超知能」を最初の製品として構築するという、単一かつ明確な目標を掲げています。この野心的な目標は、従来のLLM開発を完全に回避し、基盤となる高度な汎用知能を直接目指すものです。
この大胆な目標は、NVIDIAからの50億ドルという巨額の投資によって、大きな信頼性を得ています。AIハードウェアのリーディングカンパニーからのこのような大規模な資金提供は、彼らがSSIの研究に非常に説得力があり、スケーラブルな可能性を見出していることを示唆しており、Sutskeverのチームが有望な道筋を発見したという確信の表れと言えます。
SSIの核となる論文は、「人間の脳がどのように機能するかという見過ごされてきた側面」を探求することに焦点を当てています。この研究の方向性は、力任せの計算と膨大なデータセットに大きく依存する現在のAIの限界を超えることを目指しています。SSIは、モデルがより少ない経験から堅牢で汎用的な抽象概念を獲得するためのメカニズムを追求しており、既存の手法を単にスケールさせるのではなく、知能を獲得する傾斜そのものを変えようとしています。
力任せを超えて：真の学習へ
現代のAIシステムは驚異的な能力を発揮する一方で、人間が直感的に学ぶ概念を把握するために数百万もの例を必要とするなど、脆い側面も持ち合わせています。子供は数回物体が落ちるのを見るだけで重力を理解しますが、現在のAIが汎化するためには1000万もの例が必要です。Safe Superintelligence Inc.（SSI）はこの格差に着目し、サンプル効率を向上させるメカニズムを模索しています。これにより、1000万回ではなく、わずか100回程度の経験から堅牢な抽象概念を獲得できるモデルの実現を目指しています。
SSIの研究は、モデルが内部表現を形成する方法を変える、新しい形の記憶を導入する、あるいは標準的な次トークン予測を超えて進化するなど、斬新なアプローチを探求している可能性が高いです。これは知能獲得のプロセスを根本的に変え、力任せのデータ消費から、根底にある原理を人間のように把握する形へとシフトさせるでしょう。
今日のAIのもう一つの重大な限界は、その静的な性質です。主要なモデルのほとんどは初期学習後に「凍結」され、デプロイ後のニューラルネットワークの重みは固定されたままです。対照的に、人間は絶えず学習し、脳は日々の経験を通じて物理的に変化・適応します。明示的な指示なしに、微妙な組織の力学やデバッグ戦略を内面化していくのです。
Ilya Sutskeverは、真の継続学習が可能なSSIシステムを構想しています。この「超知能を持つティーンエイジャー」は、最初からすべてを知っているわけではありませんが、経験を通じて自らの神経経路を進化させ、修正する並外れた能力を持っています。SSIは、より大きなモデルをゼロから訓練するのではなく、時間の経過とともに知能を蓄積し、学習内容をモデル自体の一部として組み込んでいく、進化し続ける単一のシステムの開発を目指しています。
独自の「直感」を持つAI
従来のAIは、最終的な報酬信号が遠く、何年も先になる可能性のある長期的なタスクに苦戦しています。「成功する企業を立ち上げる」や「気候変動を解決する」といった目標を考えてみてください。現在の強化学習モデルは、行動を導くために頻繁で明示的なフィードバックを必要とするため、このような壮大で曖昧な目標を扱うことは困難です。即時の検証がなければ、AIは複雑で多段階の戦略を最適化するために必要な勾配を欠いてしまうのです。
Safe Superintelligence Inc. (SSI) は、豊かな「内部フィードバックシステム」を持つAIを開発することで、この課題に対処する可能性があります。外部からの報酬のみに頼るのではなく、このアーキテクチャにより、AIは高レベルの目標に対する自身の進捗を継続的に自己評価できるようになります。AIは、現在の軌道が有望か誤っているかについて、独自の「直感」を生成し、戦略を先回りして調整できるようになるかもしれません。
人間は、内的な動機付けを用いて同様の複雑な課題を乗り越えています。好奇心が探求を促し、フラストレーションが行き止まりを知らせ、直感が有望な道筋へと導きます。これらはすべて、最終的な結果が判明するずっと前から機能しています。SSIのシステムは、こうした内的なシグナルを模倣し、まるで「超知能を持つティーンエイジャー」が自身の理解を絶えず洗練させていくように、内部状態から学習し適応するAIを育成できる可能性があります。彼らのアプローチの詳細については、Safe Superintelligence Inc. をご覧ください。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
内側からアライメントを解決する
Safe Superintelligence Inc. (SSI) は、極めて困難な課題に直面しています。それは、超知能が学習と自己改善を繰り返す中で、いかにして人間の価値観と整合（アライメント）し続けるかという点です。リスクは初期段階の不整合だけではありません。AIの急速に進化する内部モデルや目的が、時間の経過とともに作成者の意図から微妙に乖離していく「価値のドリフト（value drift）」が懸念されます。
人間の進化を考えてみましょう。進化は、好奇心や社会的地位といった抽象的で永続的な衝動を私たちに植え付けました。これらの核となる動機は、古代の社会階層を生き抜く場合でも、現代のデジタルプラットフォームを利用する場合でも、新しい環境全体に一般化されます。SSIは、脳の基本的な学習メカニズムを解明できれば、AIに対しても安定した「抽象的な動機付けの核（abstract motivational core）」を設計できるのではないかと理論化しています。
学習と動機付けの根本的な原理を内側から解決することで、SSIは能力が指数関数的に成長しても核となる好みが安定し続けるAIの構築を目指しています。このアプローチは、真に「アライメントされた超知能」につながる可能性があります。そこでは、安全性が外部からのパッチではなく、基礎となるアーキテクチャの固有の特性となり、その無限の知能を有益な結果へと導くのです。
よくある質問
Safe Superintelligence Inc. (SSI) とは何ですか？
SSIは、元OpenAIのIlya Sutskever氏によって設立された新しいAI企業です。その唯一の使命は、人間を模倣した新しい研究の方向性に焦点を当て、「安全な超知能」を最初で唯一の製品として構築することです。
SSIのAIへのアプローチは、現在のモデルとどう違うのですか？
SSIは、Transformerのような既存のアーキテクチャを単にスケールアップするのではなく、より汎用的で効率的な知能を創造するために、サンプル効率、継続学習、内部価値システムといった分野での根本的なブレークスルーに注力していると報じられています。
AIにおける継続学習とは何ですか？
継続学習とは、AIモデルがデプロイ後に新しい経験から継続的に学習・適応し、以前に学習したスキルを忘れない能力のことです。これは、現在のニューラルネットワークにおける「破滅的忘却（catastrophic forgetting）」として知られる大きな課題です。
SSIはいつ最初のAIモデルをリリースする予定ですか？
非常に推測の域を出ませんが、ソース動画では、Safe Superintelligence Inc.が最初の待望のモデルを2026年8月にローンチするという噂が言及されています。