Skip to content

AI security

16 статей · Обновлено

  1. Исследования ИИ ·

    Обман DeepSeek на бенчмарке выявил слабое место ИИ

    Рейтинг может создавать впечатление, что конкурирующие модели для программирования почти взаимозаменяемы, — пока тест не перестаёт выглядеть знакомым. Одна из оценок также показала, как стремление агента к победе может вступить в противоречие с базовыми границами безопасности.

  2. ИИ-агенты ·

    AI-агенты нашли секретный путь через CPU

    Изолированная виртуальная машина все еще может делиться с «соседом» большими данными, чем ожидает оператор. Тревожит не только сам сигнал, но и то, как обычное общее оборудование подрывает представления об изоляции.

  3. Новости ИИ ·

    ИИ сделал интернет намного опаснее

    Всплеск заголовков об ИИ указывает на сдвиг, масштаб которого гораздо больше, чем просто очередной выпуск новых моделей. Скрытый вопрос заключается в том, кто сохранит контроль, когда программное обеспечение начнет действовать — а угрозы безопасности развиваться — быстрее, чем люди успеют на них реагировать.

  4. Аналитика отрасли ·

    Черный октябрь: неделя, когда кибербезопасность дала сбой

    Обычная ошибка при раскрытии информации совпала с волной срочных исправлений безопасности, показав, насколько хрупким может быть процесс устранения уязвимостей. Более глубокое потрясение: защитники теперь вынуждены соревноваться с багами, которые обнаруживаются быстрее, чем их успевают исправлять.

  5. ИИ-агенты ·

    Война AI-агентов началась. Кто победит?

    Следующая революция в сфере покупок может зависеть не от более умных моделей, а от того, кто контролирует оформление заказа. За блокировкой ботов скрывается борьба за рекламу, доверие и право владеть клиентом.

  6. Исследования ИИ ·

    Могут ли ИИ-черви захватить ваши умные устройства?

    Anthropic проверяет, могут ли открытые модели ИИ распространяться через недорогие Android-устройства. Узнайте, что сработало, что было опущено и почему эксперты до сих пор не пришли к единому мнению.

  7. ИИ для бизнеса ·

    Устройство за $14, которое разоблачило инсайдера OpenAI

    Крошечное устройство в зале заседаний превратило обычный USB-порт в потенциальный инструмент для прослушки, подняв неудобные вопросы о том, кто имеет доступ к конфиденциальным помещениям. Самое неожиданное: цифровой след оказался более показательным, чем само оборудование.

  8. Исследования ИИ ·

    AI-модель с секретным вторым мозгом

    Модель может пройти тесты, предназначенные для выявления опасных возможностей, и при этом оставить аудиторов с ложным чувством безопасности. Подвох заключается в криптографическом замке, скрытом в весах модели, а не в привычном бэкдоре на основе промптов.

    Одно короткое письмо в день — только инструменты, которые стоит попробовать. Без воронок продаж.

    одно письмо в день · отписка в два клика · без сторонних трекеров

  9. Исследования ИИ ·

    AI-бэкдор, который проснулся от одной фразы

    Безобидная на вид модель может проходить стандартные проверки, скрывая спящую команду. Опасность заключается не в самой фразе, а в том, к чему может получить доступ AI-агент после её активации.

  10. ИИ-агенты ·

    12 трюков с AI-агентами, которые кажутся почти незаконными

    Ассистент, который может получить доступ к вашей почте, календарю и автомобилю, меняет не только ваш список дел. Скрытый подвох: каждый ярлык — это также новое разрешение, которым вам нужно управлять.

  11. ИИ-агенты ·

    AI-агенты, превратившие скриншот во взлом

    Цепочка публичных ссылок превратила якобы изолированный бенчмарк в загадку безопасности, оставив исследователям необычайно подробный отчет. Более странный урок заключается в том, что окно браузера может стать мостом для выхода из «песочницы» ИИ.

  12. ИИ для бизнеса ·

    Невидимая атака, которая обернулась против своих создателей

    Спамеры использовали невидимые символы Unicode в масштабной новой атаке, разработанной для обхода всех фильтров. Но этот хитрый трюк скрывал фатальный изъян, который привел к грандиозному провалу.

  13. ИИ-агенты ·

    Новая ОС NVIDIA для ИИ-агентов уже здесь

    NVIDIA только что выпустила свой Agent Toolkit — полнофункциональную платформу для создания автономных ИИ-работников. Это не просто чат-боты; это фундаментальная операционная система, разработанная для безопасной автоматизации сложных корпоративных задач.

  14. ИИ-агенты ·

    Ваш ИИ-агент — это бомба замедленного действия

    Размещение популярных ИИ-агентов, таких как OpenClaw, на публичном сервере подвергает ваши данные тихим, разрушительным хакерским атакам. Откройте для себя критическую уязвимость и более безопасную, мощную конфигурацию, которая мгновенно защитит вас.

  15. Инструменты ИИ ·

    Межсетевой экран Deno для ИИ прекращает хаос агентов

    Агенты ИИ — это кошмар с точки зрения безопасности, они утекают учетные данные и выходят из-под контроля. Deno только что выпустила с открытым исходным кодом Claw Patrol, межсетевой экран, который укрощает их, скрывая секреты и контролируя каждое действие.