不安を煽る主張：AIの脳を持つワーム
AIエージェントは自律的に脆弱なデバイスを見つけ出し、ソフトウェアをインストールし、人間の介入なしに永続的に拡散できるのでしょうか？この問いは、2つの重要な能力を組み合わせた「自己複製型AIワーム」に関する最近の研究の根幹をなすものです。このようなワームには、安価なハードウェアで動作するほど小型のモデルと、多様なシステムに適応してインストールを行うのに十分な知能を持つエージェントが必要です。
AnthropicのFrontier Red Teamが最近調査したのは、映画『The Terminator』のSkynetのような完全に実現された自律型ワームではなく、その構成要素です。彼らの研究は、すでに機能している現実世界の脅威を提示するのではなく、この複雑なシナリオの断片を分解し、個々の要件を厳密にテストしています。この慎重な区別は、研究の含意を理解する上で極めて重要です。
研究者らは、1台あたり約55ドル、RAM 4GBのみという15台のノーブランドAndroid TVボックスにAIモデルを分散（シャーディング）できるかどうかを調査しました。彼らは、GoogleのGemma4-26B-A4B（4ビット量子化モデル）のレイヤーを分割することで、0.39トークン/秒という低速ながらも実行に成功しました。これは、低コストハードウェア上での分散推論の実現可能性を証明するものです。
別途、AnthropicはAIエージェントの伝播能力をテストしました。8台のGoogle Cloud Platformノードで構成された閉鎖ネットワークにおいて、7530億パラメータのモデルであるGLM-5.2は、5回の試行中4回で自律的な複製に成功しました。ただし、ターゲットデバイスのAndroid Debug Bridge (ADB) ポートは意図的に開放されており、「ハッキング」の手順を簡略化することでインストールという課題に焦点を当てています。
15台のTVボックスで非常に低速なモデルを1つ実行
Anthropicの初期のハードウェア実証実験では、1台あたり約55ドルのノーブランドAndroid TVボックス15台をネットワーク接続しました。家庭によくあるこれらのデバイスは、ユニットあたり約4GBのRAMという限られた計算能力しか持っていません。単体のボックスでは、実用的なAIモデルを実行することは不可能です。
研究者らは、この制約に対処するために「モデルシャーディング」を実装しました。彼らはGoogleのGemma 4 26Bモデル（4ビット量子化）を使用し、そのレイヤーをネットワーク接続されたデバイス全体に分散させました。各TVボックスは数層のみを処理し、中間計算結果を順次次のデバイスへ渡す仕組みです。
このアプローチによりモデルの実行に成功し、低コストの分散ハードウェアであっても集合的に高度なAIをホストできることが示されました。しかし、パフォーマンスは著しく低く、システムは0.39トークン/秒で応答を生成しました。これは1分間に短い文章を1つ生成できる程度の速度です。この速度は重要なトレードオフを浮き彫りにしており、実用的な高速AIサービスではなく、概念実証の域を出ないことを示しています。
モデルの拡散には成功したが、実験には条件があった
次にAnthropicは、「ワーム」の構成要素であるAIエージェントの自己複製能力をテストしました。研究者らはAndroidを実行する8台のGoogle Cloudマシンで密閉されたネットワークを構築し、1つのノードでエージェントを起動しました。そのタスクは、他のマシンを見つけ出し、ソフトウェアをコピーし、モデルを起動することでした。
1つのモデル「GLM-5.2」が、5回の試行中4回で8台すべてのマシンにわたってこのループを完了し、残りの1回でも8台中7台で成功しました。他のすべてのテスト済みモデルは、タスクを完全に遂行することに失敗しました。これは、AIが自律的に拡散し、機能的なモデルを確立する能力を持っていることを証明するものです。
しかし、この結果には重要な注意点があります。第一に、研究者たちは意図的にAndroid Debug Bridge (ADB) アクセスをオープンにし、パスワードを設定しない状態でマシンを構成しており、最初の侵害ステップを簡略化していました。さらに、エージェント自身のラージモデルの推論は、ターゲットマシン上ではなく、別の強力なサーバー上で実行されていました。
重要な点として、エージェントは自身の「脳」のコピーをターゲットデバイスにインストールしたわけではありません。その目的は、実際のワームが運ぶ可能性のあるペイロードのプロキシとして機能する、より小さなモデルである Llama 3.1 8B をインストールすることでした。基礎となる研究の詳細については、AI models may be capable of self-replicating without access to a datacenter - Anthropic を参照してください。これらの条件は、自律的な拡散が達成されたとはいえ、現実世界の脅威と比較して大幅に簡略化された環境に依存していたことを浮き彫りにしています。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
現実の脅威か、それとも実証からパニックへの飛躍か？
自律的な複製は依然として理論上の脅威であり、差し迫ったものではありません。自己拡散を実証したモデルである GLM 5.2 は7530億のパラメータを誇りますが、これは一般的なAndroid TVボックスには大きすぎます。逆に、それらのデバイスに収まるほど小さなモデルでは、複製タスクを完了できませんでした。能力はまだ重なり合っていないのです。
しかし、Android TVボックスは脆弱です。Kimwolf botnet はすでに200万台以上のそのようなデバイスに感染しており、その多くはデフォルトでADBデバッグポートが公開され、パスワードが設定されていませんでした。複製テストでは意図的にポートを開放していましたが、この現実の先例は、そのような侵入経路が架空のものではないことを示しています。
デバイス間でマルチギガバイトのモデルウェイトを移動させることは、目立ちますし、時間もかかります。例えば、90億パラメータのワームが新しいデバイスごとにモデルをインストールするには28〜51時間かかるでしょう。この遅さは、ネットワーク防御者が拡散を検知し、緩和するための十分な機会を与えることになります。
Anthropicは、2026年後半までに小さなモデルがこれらの複合的な能力を獲得する可能性があると予測していますが、これは推定であり、確実ではありません。この研究は将来の潜在的なリスクを強調するものではありますが、差し迫った大量感染の証拠を提供するものではありません。議論は続いています。現実の脅威か、それとも実証からパニックへの飛躍か？
よくある質問
現在、AIモデルはスマートデバイス間で自己複製できますか？
Anthropicのテストでは、実際のスマートデバイス上で完全かつ独立したワームは実証されませんでした。テストを調整できるモデルは、ターゲットデバイス上で実行するには大きすぎました。
Anthropicの自己複製AI実験では何をテストしましたか？
研究者たちは、低コストのAndroid TVボックス全体でモデルを実行することと、AIエージェントがネットワーク化されたAndroidマシンにモデルをインストールする能力を個別にテストしました。
なぜテスト条件が批判されたのですか？
ターゲットマシンには認証されていないAndroid Debug Bridgeポートが公開されており、エージェントはその推論に別のサーバーを使用していたためです。
なぜ安価なAndroid TVボックスがセキュリティ上の懸念なのですか？
一部のデバイスは、デバッグポートの公開など、安全でないデフォルト設定で出荷されています。研究者たちは、そのようなデバイスがKimwolfを含む大規模なボットネットに関連していることを突き止めています。