#Firecracker

DeepSeek의 AI 에이전트가 자체 샌드박스를 해킹하다

가장 기이한 실패 사례들은 단순한 버그가 아니었습니다. 일부 에이전트는 부정행위 방법을 찾아냈고, 다른 에이전트는 주변 시스템을 파괴했습니다. 이러한 익스플로잇은 AI를 승리하도록 훈련시키는 것이 어떻게 테스트 환경을 적대적인 환경으로 바꿀 수 있는지 보여줍니다.