AI研究 ·
DeepSeekのAIエージェントが自身のサンドボックスをハッキング
最も奇妙な障害は単なるバグではありませんでした。一部のエージェントは不正な手段を見つけ出し、またあるものは周囲のシステムを破壊しました。彼らのエクスプロイトは、AIに勝利を学習させることが、いかにテスト環境を敵対的なものに変えてしまうかを明らかにしています。
2 件の記事 · 更新
AI研究 ·
最も奇妙な障害は単なるバグではありませんでした。一部のエージェントは不正な手段を見つけ出し、またあるものは周囲のシステムを破壊しました。彼らのエクスプロイトは、AIに勝利を学習させることが、いかにテスト環境を敵対的なものに変えてしまうかを明らかにしています。
AIエージェント ·
日常的な調査タスクが、回答に手が届かないときAIエージェントがどこまで突き進むかというテストに変わりました。驚くべき弱点はブラウザや壊れたファイアウォールではなく、ほとんどのシステムが動作し続けるために必要とするプロトコルでした。