AIは17,253個の数値を読み取り、Breakoutを見抜いた

17,253個の数値と、驚くほど具体的な推測#

OpenAIのフロンティアモデルであるGPT-6 Astraは、プレーンテキストとして17,253個の生の浮動小数点数を受け取りました。ゲームのラベル、実行ツール、選択肢のいずれもない状態で、Astraは基盤となるニューラルネットワークを、Breakoutをプレイするよう学習されたものだと99%の確信度で特定しました。これは、大規模言語モデルが生のニューラルネットワークのパラメータを解釈できることを示す重要な実証となりました。

Astraは、数値データ内の空間的なパターンを観察することでゲームを推定したと報告されています。プレイヤーエージェントチャネルの第1層の重みが、ゲームの空間表現の下部に沿って集まっており、水平なパドルに似ていると指摘しました。同時に、出力の重みは主に左右の動きを区別しているように見え、Breakoutという仮説をさらに裏付けました。

この実験は、モデルが小規模なネットワークの挙動をそのパラメータから直接推定できる場合があることを示す説得力のある証拠です。ただし、Astraが任意のニューラルネットワークやその複雑な内部メカニズムを普遍的に理解していることを証明するものではありません。研究者らは、同一アーキテクチャの複数のポリシーでこのパラメータ解釈の再現に成功しました。対象は次のとおりです。

• Breakout
• Pong
• Pac-Man
• Freeway/Frogger

モデルは重みを読んだだけでなく、書き込みも行った#

この結果の元となった論文「Sparks of Weight-Space Programming」は、大規模言語モデルが生のニューラルネットワークのパラメータを直接解釈し操作するというパラダイムを提案しています。この「ウェイトスペース・プログラミング」は、勾配降下法と学習ループへの排他的な依存から転換し、LLMを用いてネットワークの挙動を診断・編集するものです。

印象的な実証として、Astraはすべてゼロの初期状態から、1ターンでBreakoutをプレイするポリシーを合成しました。このゼロショット生成のスコアは517.4ポイントで、標準的なProximal Policy Optimization（PPO）エージェントを大きく上回りました。PPOのベースラインは、100 million〜500 millionの環境ステップにわたる学習を行ったにもかかわらず、25.3ポイントにとどまりました。

この比較は、Astraが高レベルのゲームロジックだけから機能的なポリシーを構築できる創発的な能力を示しています。この特定の設定では大きな成果ですが、プロンプトによる重みの生成が強化学習を広く置き換えること、あるいはあらゆるタスクに普遍的に適用できることを示唆するものではありません。むしろ、ネットワークの作成と介入に向けた新たな道筋を示しています。

わずかな編集で、はるかに大きなベンチマークの向上#

Astraは、単なる特定にとどまらず、ニューラルネットワークの直接編集も行ったと報告されています。研究者らはAstraに、Qwen3.5-0.8Bモデルの全パラメータのごくわずか0.016%にあたる131,072個の重みを、15層と19層に集中して修正するよう指示しました。

この精密な介入は、反復的な推論ループの原因と考えられる内部方向を対象としました。これはQwenモデルが出力トークン上限にたびたび達する失敗モードです。この編集はファインチューニングのプロセスではなく、勾配降下法や学習ステップは一切使われていません。

その影響は大きく、QwenのMATH-500ベンチマークのスコアは7.9%から48.1%へと大幅に上昇しました。同様に、IFEval（指示追従）のスコアは21%から62.3%に跳ね上がりました。これらの改善は、抑制的な失敗モードを取り除いたことによるものであり、Astraが数学的能力を直接注入したことによるものではありません。

重要な点として、このアプローチは、同様の内部ループの問題が見られなかったGemma 3 270Mのようなモデルでは、ほとんど改善をもたらしませんでした。これらの手法の詳細については、プレプリントSparks of Weight-Space Programming: LLMs can natively read & write neural network weightsをご覧ください。これはウェイトスペース・プログラミングの繊細な応用例であり、特定可能な挙動上の問題に対して直接編集で対処しています。

有望な実験であり、ニューラルネットワークのテレパシーではない#

Qwenに関する研究には方法論上の批判が出ました。批判者は、報告されたウェイトスペース・プログラミングにはPythonのサンドボックスと練習問題が用いられており、生のテキストからAIが容易に編集するというより、人間のエンジニアが特徴を操作するワークフローに近いと指摘しています。この違いは、実験の範囲を理解するうえで重要です。

従来のオプティマイザーはパラメータを数値的に更新し、モデルの性能を反復的に改善します。一方、ウェイトスペース・プログラミングは、特定のパラメータが何をしているかについて、モデルが意味的な仮説を提示できる可能性を示唆しています。LLMが重みの数値だけでなく意味を見抜けるというこの可能性は、実証された能力と推測的な解釈を切り分けるために、慎重な再現と評価が必要です。

直接の検査と編集の機能は、複雑なニューラルネットワークのデバッグに大きく役立つ可能性があり、現在は得られない細かな制御を提供します。しかし同時に、信頼性と安全性に関する重要な問題も提起します。報告されたテストは、AIが独自にセーフガードを無効化できることを示してはいません。むしろ、この分野が進展するなかで、将来の重み編集ツールの制御が厳密に検討されるべき理由を浮き彫りにしています。