脅威を現実のものと感じさせた55ドルのボックス
Anthropicによる最近の研究は、「AIエージェントは自律的にネットワーク内を拡散できるか？」という直接的で不安をかき立てる問いを投げかけました。これは実際の家電製品の侵害ではなく、制御された実験を通じて、そのような脅威の主要な要素を実証したものです。この調査結果は、将来のモデルが予想よりも早くこの能力を獲得する可能性があることを示唆しています。
これを調査するため、研究チームはそれぞれ約55ドル、4GBのRAMを搭載したノーブランドのAndroid TVボックスを15台調達しました。これらの安価な民生用デバイスをネットワーク化し、潜在的な分散コンピューティング環境をシミュレートしました。目的は、このような低コストのハードウェアが、集合的かつ分散型の推論システムに寄与できるかどうかを確認することでした。
重要な点として、このセットアップはAIワームの構成要素をテストしたものであり、スマートテレビ、冷蔵庫、オーブンなどにすでに組み込まれた、完全に実現された自己複製モデルをテストしたわけではありません。これは、AIエージェントがコモディティハードウェア上で拡散し、分散推論を確立する理論的な能力を検証したものです。この実験は、現在のスマートデバイスが直ちに脅威となることを示すのではなく、将来のAIエージェントが自身の運用のためにこのようなネットワークを利用する可能性を理解することを目的としていました。
Gemmaはどのようにネットワーク全体に分割されたのか
このような制約のあるハードウェアでAIモデルを実行するために、Anthropicは「レイヤーシャーディング（layer sharding）」を採用しました。彼らは、Googleの260億パラメータを持つオープンモデル「Gemma4-26B-A4B」を、ネットワーク化された15台のAndroid TVボックスに分割して配置しました。各ボックスは約2つの連続したモデルレイヤーを受け取り、計算出力をパイプライン内の次のデバイスへと渡す仕組みです。
モデルをこのように分散させることで実験は実現可能となり、Gemmaモデル全体を低コストのハードウェア上で実行できるようになりました。しかし、この逐次処理には大きなパフォーマンス上の代償が伴いました。パイプラインの処理速度はわずか「0.39トークン/秒」でした。これは短い文章を生成するのに約1分かかることを意味し、この分散セットアップに固有の深刻なレイテンシを浮き彫りにしました。
この実験的な構成は、分散推論を実証したものの、実用的なボットネットの脅威と同等ではありません。ネットワークに依存した低速な推論は、広範囲な侵害に必要な迅速な実行とは対照的です。さらに、4GBのRAMを搭載した比較的性能の高いTVボックスは、多くの現実のIoT機器に見られるリソースが制限された小さなマイクロコントローラーとは大きく異なります。Anthropicのセットアップは概念を証明したものであり、すぐに展開可能な兵器を証明したわけではありません。
1つのモデルは拡散したが、重要なピースは重ならなかった
研究者は、単純化された8台のマシンのネットワーク全体に拡散するよう「AIエージェント」にタスクを課しました。コマンドを実行できる小さなプログラムであるこのエージェントは、推論エンジンとして大規模言語モデルを使用し、ターゲットを発見し、実行権限を獲得し、新しいノード上で推論を確立しました。
テストされたモデルのうち、GLM-5.2のみが完全な拡散タスクの実行に成功しました。別の強力なホストマシン上で実行されたGLM-5.2は、5回の実験のうち4回で8台すべてのターゲットマシンに到達し、残りの1回では8台中7台に到達しました。他のモデルは、この多段階プロセスを完了することに一貫して失敗しました。
このデモンストレーションは説得力がある一方で、「能力」と「展開可能性」という重要な違いを浮き彫りにしています。7530億パラメータを持つGLM-5.2モデルは非常に巨大であり、55ドルのAndroid TVボックスで実行するには大きすぎます。この研究に関する詳細は、Anthropicの全調査結果をご覧ください：AI models may be capable of self-replicating without access to a datacenter。
TVボックス全体に分散された小型のGemmaモデルは、シャーディング構成で動作することが示されましたが、完全な自律伝播についてはテストされていません。したがって、自律的に拡散するほど知的なモデルはエッジデバイスには大きすぎ、エッジデバイスに適した小型モデルは現時点で自己複製できるとは証明されていません。これら2つの重要な要素が収束することは、現在の現実ではなく、将来の懸念事項です。
この記事が気に入ったら、毎朝同じようなものをメールで受け取れます。
1日1通 · 2クリックで解除 · サードパーティのトラッキングなし
リスクは予測であり、カウントダウンではない
Anthropicの2026年後半という推定は予測であり、期限ではありません。核心的な懸念は、将来の小型モデル（約8Bパラメータ）が、Gemma4-26B-A4Bのエッジデバイスでの利便性と、GLM-5.2で実証された自律的なサイバー能力を兼ね備える可能性があるという点です。これは、55ドルのAndroid TVボックスで動作し、かつ独立して伝播できるモデルが登場する可能性を示唆しています。
しかし、現実世界のネットワークには、この単純化されたベンチマークでは完全には捉えきれない大きな障害が存在します。多様なハードウェア、複雑な認証プロトコル、堅牢なファイアウォール、信頼性の低い接続などは、自律型エージェントにとって複合的なエラーを引き起こす要因となります。現在の毎秒0.39トークンという推論速度も、このような分散システムにおける極端な遅延を浮き彫りにしています。
このテストでは公開されているモデルウェイトが使用されており、Anthropicの研究の枠組みについて議論を呼んでいます。一部の批評家は、オープンウェイトモデルへの注目が、それらの制限を求める声につながる可能性があると指摘しています。これらの政策的な懸念と、実験で測定された技術的な結果を区別することが重要です。
議論の如何にかかわらず、実用的な優先事項は明確です。それは、ネットワーク防御の強化、堅牢なアクセス制御の実装、そして異常なAIエージェントの活動に対する監視の強化です。この実験は、進化する脅威の状況を強調しており、将来のより高性能なAIシステムに対する先制的なセキュリティ対策の必要性を浮き彫りにしています。
よくある質問
Anthropicは、AIワームが実際のスマート家電に拡散する様子を実証しましたか？
いいえ。この実験は単純化されたテストネットワークを使用したものであり、家庭用家電に対する現実世界の攻撃ではありません。
テストされたAIモデルはAndroid TVボックスで実行できましたか？
分散型のGemmaセットアップは複数のボックスで実行されましたが、伝播タスクを完了したモデルは、別の、はるかに大きなホスト上で実行されました。
なぜAIの自己複製が重要なのでしょうか？
デバイスを見つけ、タスクを実行し、自らを展開できる適応型エージェントは、一部のサイバー脅威を予測および封じ込めることをより困難にする可能性があります。
AIを活用したIoTボットネットは差し迫っていますか？
このテストは、ボットネットが差し迫っていることを示すものではありません。これは将来起こりうるリスクを強調しつつ、今日の主要な能力とハードウェアの制約を明らかにしています。