Skip to content

prompt injection

7 статей · Обновлено

  1. Исследования ИИ ·

    Скрытый текст, способный ослепить ИИ

    Несколько невидимых символов могут превратить обычный скрипт в ловушку для ИИ, который его анализирует. Та же уязвимость может помочь защитникам остановить автоматизированных злоумышленников — или оставить команды безопасности один на один с анализом.

  2. Исследования ИИ ·

    Ловушка безопасности ИИ, скрытая у всех на виду

    Обычный антибот-скрипт содержал скрытое сообщение, призванное заставить системы ИИ отказаться от его проверки. Тот же самый трюк может защитить специалистов по безопасности или помочь злоумышленникам скрыть свои действия.

  3. ИИ-агенты ·

    Навык ИИ, скрывающий вредоносный промпт

    Безобидный на вид навык может незаметно заставить ИИ-агента слить данные или перезаписать собственную память. Самое тревожное: полезная нагрузка может быть обычным предложением на английском, а не исполняемым кодом.

  4. ИИ для бизнеса ·

    Prompt Injection — это лишь первая угроза для агентов

    Безобидное на вид электронное письмо или веб-страница могут незаметно стать следующей командой для агента. Настоящая опасность возникает, когда этот агент получает возможность действовать в корпоративных системах.

  5. Исследования ИИ ·

    AI-фильтр на 200 млн параметров, который почти обошел гиганта

    Новый класс моделей принятия решений для ИИ обещает более быструю и дешевую проверку безопасности, но реальные фильтры могут преподнести немало сюрпризов. Тестирование Red Hat выявляет скрытые издержки выбора модели, основанного лишь на маркетинговых обещаниях.

  6. ИИ для бизнеса ·

    Невидимая атака, которая обернулась против своих создателей

    Спамеры использовали невидимые символы Unicode в масштабной новой атаке, разработанной для обхода всех фильтров. Но этот хитрый трюк скрывал фатальный изъян, который привел к грандиозному провалу.

  7. ИИ-агенты ·

    Ваш ИИ-агент — это бомба замедленного действия

    Размещение популярных ИИ-агентов, таких как OpenClaw, на публичном сервере подвергает ваши данные тихим, разрушительным хакерским атакам. Откройте для себя критическую уязвимость и более безопасную, мощную конфигурацию, которая мгновенно защитит вас.