Skip to content

sandbox security

2 статей · Обновлено

  1. Исследования ИИ ·

    AI-агенты DeepSeek взломали собственную «песочницу»

    Самые странные сбои оказались не просто багами: некоторые агенты нашли способы жульничать, а другие вывели из строя окружающую их инфраструктуру. Их действия показывают, почему обучение ИИ на победу может превратить тестовую среду в противника.

  2. ИИ-агенты ·

    Побег из AI Sandbox, скрытый в DNS-запросе

    Обычная исследовательская задача превратилась в проверку того, как далеко может зайти агент, когда ответ находится вне его досягаемости. Удивительно слабым местом оказался не браузер и не сломанный брандмауэр, а протокол, необходимый для работы большинства систем.