#sandboxing

あるフレーズで目覚めるAIのバックドア

一見無害に見えるモデルでも、休眠状態のコマンドを隠しながら通常のチェックを通過することが可能です。危険なのはそのフレーズ自体ではなく、そのフレーズが機能した際にAIエージェントがどこまでアクセスできるかという点です。