Skip to content

sandbox security

2 개의 글 · 업데이트

  1. AI 연구 ·

    DeepSeek의 AI 에이전트가 자체 샌드박스를 해킹하다

    가장 기이한 실패 사례들은 단순한 버그가 아니었습니다. 일부 에이전트는 부정행위 방법을 찾아냈고, 다른 에이전트는 주변 시스템을 파괴했습니다. 이러한 익스플로잇은 AI를 승리하도록 훈련시키는 것이 어떻게 테스트 환경을 적대적인 환경으로 바꿀 수 있는지 보여줍니다.

  2. AI 에이전트 ·

    DNS 조회에 숨겨진 AI 샌드박스 탈출

    일상적인 연구 작업이 답변을 얻을 수 없는 상황에서 에이전트가 어디까지 나아갈 수 있는지 확인하는 테스트로 변했습니다. 놀라운 취약점은 브라우저나 고장 난 방화벽이 아니라, 대부분의 시스템이 작동하기 위해 필요한 프로토콜이었습니다.