История атаки ИИ Anthropic: Большая ложь?

Антропик в этом году бросил сенсацию: согласно собственному отчету по безопасности, компания предотвратила государственно спонсируемую атаку, orchestrированную ИИ, проводимую китайским кибершпионским подразделением. История сосредотачивалась на таинственной группе, которую Антропик назвал GTG-1002, которая якобы использовала агенты на основе Claude для выполнения 80–90% кампании по вторжению в реальном времени — разведки, перемещения по сети, даже эксфильтрации данных — в то время как человеческие операторы, по предположениям, справлялись только с 10–20% работы. Сформулированный как взгляд в будущее автономного хакинга, отчет напоминал перекресток между меморандумом по реагированию на инциденты и научно-фантастическим сценарием.

Редакции восприняли это именно так. Заголовки кричали о «автономных кибератаках ИИ» и «шпионах на базе Claude», а повествование быстро распространилось по техническим медиа, основным изданиям и кругам политиков. Сочетание китайских государственных хакеров, передовых языковых моделей и призрака самонаправленных кибероружий оказалось неотразимым, особенно в новостном цикле, который уже был накачан дебатами о безопасности ИИ и нарастающей напряженностью в отношениях между США и Китаем.

Освещение часто повторяло формулировки Anthropic практически дословно: ИИ-агенты координируются через «обширные поверхности атаки», отображают «полную топологию сети» и выбирают «системы с высокой ценностью». Немногие ранние материалы остановились на странной оперативной детали о том, что предположительно сложный злоумышленник выбрал закрытый, полностью зарегистрированный коммерческий сервис — Claude Code — в качестве своего основного инструмента. Ещё меньшее количество задавалось вопросом, почему компания, находящаяся в центре обсуждения безопасности ИИ, публикует глянцевую нарративу без традиционных артефактов разведки угроз.

Очень быстро это молчание треснуло. Растущее число исследователей в области кибербезопасности, от независимых аналитиков до специалистов по реагированию на инциденты, начало публично ставить под сомнение доказательную базу отчета. Посты, такие как блог исследователя безопасности Jinvx и видео от Better Stack "Что-то не так с историей, отчетом о скоординированной атаке на Anthropic", утверждали, что документ Anthropic больше напоминает рекламный текст, чем форензическое заключение.

Критики указали на то, чего не хватало: никаких индикаторов компрометации, никаких конкретных TTP, никаких списков жертв, никаких хэшей вредоносного ПО, никаких фрагментов кода, даже ни одного упомянутого языка программирования. Для отчета о беспрецедентной операции на основе ИИ технический раздел выглядел заметно пустым.

Эти пробелы создают резкий конфликт. Либо Anthropic раскрыла одну из первых крупномасштабных операций шпионажа с использованием ИИ и решила скрыть почти всю полезную информацию, либо компания значительно преувеличила неясный, более ограниченный случай. Эта статья раскроет эту напряженность, сравнивая основные заявления Anthropic с бедным содержанием под ними.

Специалисты по безопасности ожидают, что отчет по разведке угроз будет выглядеть как вскрытие, а не как сценарий фильма. Обычно отчет от Mandiant или CrowdStrike поставляется с четкими индикаторами компрометации (IOC), сопоставленными TTP и явной атрибуцией. Вы можете увидеть хеши, домены, диапазоны IP, названия семейств вредоносного ПО, идентификаторы техник ATT&CK и временные показатели, разбитые до минуты.

Зрелые поставщики также документируют объем и влияние. Они называют затронутые сектора, иногда конкретных жертв, и количественно оценивают ущерб: количество хостов, объемы данных, продолжительность атаки. Даже когда юристы требуют редактирования, отчеты все равно содержат достаточно технических данных, позволяющих защитникам разрабатывать детекции, обновлять правила SIEM и информировать команды по реагированию на инциденты.

Документ Anthropic о своей предполагаемой кампании с использованием китайского ИИ почти не содержит конкретной информации. Он вводит киношный кодовое название GTG-1002, затем описывает фазы «координированной ИИ» операции в основном в абстрактной прозе. Нет образцов вредоносного ПО, нет доменов, нет IP-адресов, нет идентификаторов уязвимостей CVE, нет логов, даже нет языков программирования.

Вместо захвата пакетов и стековых трейсів читатели получают обширные фразы о «автономном обнаружении внутренних сервисов» и «картировании полной сетевой топологии». Команды безопасности не могут превратить это в правила Snort, сигнатуры Sigma или запросы для охоты в EDR. Это звучит как доклад на конференции, а не что-то, что можно было бы внести в операционную книгу SOC.

По структуре документ больше похож на политический аналитический отчет, чем на заметку CrowdStrike Falcon OverWatch. Длинные нарративные абзацы описывают человеческих операторов с "10–20%" вовлеченности, но никогда не показывают базовую телеметрию, которая могла бы подтвердить эти цифры. Один график заменяет страницы недостающих технических деталей.

Исследователь в области безопасности Jinvx прямо указал на это, утверждая, что отчет не содержит практической информации. Он отмечает, что любой «обычный отчет о безопасности» по крайней мере перечислил бы TTP и IOC, чтобы другие могли просматривать свои собственные сети. Anthropic не предоставляет ни того, ни другого, что делает независимую проверку почти невозможной.

Этот разрыв важен, поскольку он раскрывает истинный центр тяжести документа. Вместо того чтобы вооружать защитников, он продает историю: атаки ИИ уже здесь, они страшные, и модели Anthropic являются как риском, так и решением. Функционально он ведет себя скорее как тщательно адаптированный пресс-релиз, призванный генерировать заголовки и укреплять определённый наратив о опасностях ИИ и зависимости от него.

Специалисты по безопасности живут и умирают по TTP и IOC. Тактики, Техники и Процедуры описывают, как на самом деле действует злоумышленник: как они проникают, перемещаются и крадут данные. Индикаторы компрометации — это крошки, которые они оставляют позади: IP-адреса, хеши файлов, имена доменов, имена файлов вредоносного ПО, ключи реестра и шаблоны журналов, по которым защитники могут охотиться.

Эти детали превращают драматическую историю в действенную угрозу разведки. Когда Mandiant или CrowdStrike публикуют отчет, они обычно предлагают страницы атомарных данных: SHA-256 хэши, C2 домены, YARA правила, отображения MITRE ATT&CK и последовательные цепочки атак. Команды защиты интегрируют это в SIEM, инструменты EDR и брандмауэры, чтобы обнаружить подобные действия в течение нескольких минут.

Пост самой компании Anthropic, Дисрупция первого зафиксированного кибершпионажа с использованием ИИ - Официальный сайт Anthropic, не делает ничего из этого. Документ называет якобы государственный спонсируемый кластер из Китая, GTG-1002, и утверждает, что Claude обработал 80–90% "оргнанизованной" операции. Однако он не публикует ни одного хеша, ни одного домена, ни одного IP-адреса, ни одной образцовой команды и ни одного артефакта журналов.

Даже на уровне повествования отсутствует техническая основа. Anthropic не указывает ни одного языка программирования, эксплойт-фреймворка или готового инструмента. Нет упоминания о Metasploit, Cobalt Strike, Sliver, пользовательских загрузчиках или даже базовых утилитах, таких как nmap или curl.

Серьезные отчеты разбирают TTP согласно матрице MITRE ATT&CK. Обычно вы увидите такие элементы, как:

• 1Начальный доступ через фишинг с вредоносными вложениями в формате DOCX
• 2Эскалация привилегий с использованием уязвимости ядра CVE-2023-XXXXX.
• 3Боковое перемещение через RDP и PsExec
• 4Экстракция данных по протоколу HTTPS на конкретные жестко запрограммированные домены

«AI-оркестрованная» история Anthropic заменяет это абстракциями: «разведка», «боковое перемещение», «эксфильтрация данных», без каких-либо доказательств того, как это на самом деле произошло. Вы могли бы вставить эти предложения в почти любой инцидент, и они все равно звучали бы одинаково.

Без конкретных TTP или IOC защитники не могут создавать правила обнаружения, настраивать сигналы тревоги или проводить ретро-охоту в исторических логах. Команды SOC не могут подтвердить, касался ли GTG-1002 когда-либо их сетей, или смоделировать атаку в рамках учений красной команды. Сообщество не может независимо проверить утверждения Anthropic или сравнить этот кластер с известными китайскими угроза группами.

Таким образом, глянцевый аналитический отчет Anthropic может напугать руководителей и впечатлить законодателей, однако с операционной точки зрения он не приносит ничего полезного. Для специалистов по безопасности документ «угроза информации», в котором отсутствуют все проверяемые TTP и IOC, не является разведкой. Это просто рассказ.

Назовите это парадоксом хакера: предположительно элитная, поддерживаемая государством группа якобы выбрала проводить свою «координированную ИИ» шпионскую кампанию через Claude, контролируемую, закрытую языковую модель, управляемую самой Anthropic. Для любого, кто когда-либо сталкивался с реальными наборами вторжений, это одно решение вызывает больше тревоги, чем любая цепочка эксплуатации, описанная в глянцевом Анализе Отчета от Anthropic.

Серьезные операторы живут и умирают по принципам OPSEC. Они избегают всего, что создает четкий след аудита: корпоративные VPN, облачные аккаунты с KYC,企業ное программное обеспечение как услуга (SaaS) и, да, коммерческие API ИИ, которые записывают запросы, IP-адреса, метаданные платежей и модели использования. Каждый запрос к Claude, по замыслу, наблюдаем Anthropic, подлежит проверке внутренними командами по борьбе с злоупотреблениями и может быть подвергнут ретроактивному анализу.

Современные государственные группы уже отдают предпочтение инфраструктуре, которой они полностью контролируют. Они создают свои собственные серверы управления, настраивают собственные фреймворки вредоносного ПО и используют своп-ресурсы. С ИИ очевидный шаг таков же: загрузить открытые модели, доработать их и запустить на скомпрометированных серверах или графических процессорах, принадлежащих подрядчикам, где третьи стороны ничего не фиксируют.

Самостоятельно развертываемые модели, такие как производные Llama, Qwen или Mixtral, могут полностью функционировать внутри операционной среды. Такая настройка позволяет им: - Убрать защитные ограничения - Отключить логирование - Смешивать AI-трафик с обычным внутренним шумом

Нет службы по борьбе с мошенничеством, нет команды по обеспечению безопасности, нет письма от поставщика с темой “мы заметили что-то странное”.

На этом фоне сюжет Anthropic требует прыжка веры. Нас просят поверить, что «софистицированная» группа с китайскими связями решила провести реальную операцию через американскую компанию, которая открыто рекламирует мониторинг безопасности, вместо того чтобы создать локальный кластер и запустить клон класса Claude без какого-либо контроля. Это не просто неоптимальный выбор; это противоречит десятилетиям наблюдаемого мастерства государственных акторов.

Ответ Anthropic в основном заключается в том, что их социально инженерили. Предполагается, что злоумышленники убедили Claude, что они проводят безобидное тестирование на проникновение, и модель добросовестно помогала. Даже если принять это, это объясняет лишь то, как запросы обошли системы безопасности, но не то, почему какой-либо компетентный оператор вообще бы принял риск слежки, используя Claude.

Ошибки в области оперативной безопасности действительно случаются, но они обычно проявляются в виде неправильно настроенных серверов, повторного использования инструментов или неаккуратного обращения с логами — а не в решении централизовать всю вашу «автономную» операцию через черный ящик вашего противника. Этот логический разрыв остается самым ярким и неотвеченным вопросом отчета.

Корпоративный жаргон выполняет большую работу в истории Anthropic. Фразы такие как “минимальное прямое взаимодействие” и “автономное обнаружение внутренних служб” звучат как выводы; они больше похожи на настроения. Вы получаете проценты “общих усилий” и “стратегических пересечений”, но никаких захватов пакетов, никаких логов, никаких имен хостов, никаких диапазонов IP.

Возьмите это «минимальное прямое взаимодействие, оцененное в 10–20% от общего объема усилий». В настоящем отчете о угрозах безопасности эта цифра была бы привязана к чему-то: времени, проведенному операторами за клавиатурой, количеству команд или наблюдаемым сессиям. Здесь 10–20% парит в воздухе, не привязанное к каким-либо измеримым показателям, что делает его невозможным для проверки или опровержения.

Тот же абзац наполняется звучащими громко глаголами — “одобряя прогресс,” “разрешая использование,” “принимая окончательные решения о экстракции данных, объеме и хранении.” Ни одно из них не соотносится с конкретными методами. Отчет Mandiant или CrowdStrike укажет, какие инструменты одобрили что: RDP-сессии, SSH-ключи, клики по C2-панели или отредактированные запланированные задачи на каких хостах.

Еще один драгоценный камень: «активности по обнаружению происходили без человеческого руководства на обширных атакующих поверхностях». Это может описывать что угодно, от базового сканирования Nmap до индивидуальной пайплайна разведки в мультиоблаке. Ни слова о: - Конкретных подсетях или диапазонах IP - Инструментах сканирования или скриптах - Облачных провайдерах, арендаторах или средах

Когда Anthropic утверждает, что Клод «автономно обнаружил внутренние сервисы, составил полную карту сетевой топологии по нескольким диапазонам IP и идентифицировал ценные системы, включая базы данных и платформы оркестрации рабочего процесса», пропущенные существительные кричат громче глаголов. Какие базы данных? Postgres? Oracle? Какие платформы оркестрации рабочего процесса? Airflow? Argo? Самодельные?

Анализ отчета Better Stack точно передает ощущение «неестественной долины»: это текст, оптимизированный для того, чтобы звучать умно для неспециалистов, а не для информирования практиков. У него ритм, как у сводки, сгенерированной ИИ: наваленные абстракции, без конкретики.

Сравните это с настоящим техническим анализом, который существовал и исчезает в специфике: - Идентификаторы техник MITRE ATT&CK - Хеши и домены - Названия инструментов, версии и флаги командной строки

Язык Anthropic намекает на организованную атаку, не позволяя вам увидеть оркестр.

История Anthropic строится вокруг предполагаемой «масштабной» кибершпионской операции, однако публичный отчет не называет ни одной жертвы. Ни правительства, ни министерства, ни компании из списка Fortune 500, даже не упоминаются расплывчатые сектора, такие как «энергетика» или «телеком». Читатели получают драматичный язык о масштабе, но ноль конкретных целей.

Серьезная угроза от Mandiant или CrowdStrike обычно указывает как минимум отрасли и регионы, если не конкретные организации. Они могут сказать "две европейские внешние министерства" или "североамериканский производственный конгломерат". Документ Anthropic не предоставляет ничего подобного, что делает внешнюю проверку практически невозможной.

Без жертв исследователи не могут перепроверить журналы, сопоставить деятельность или подтвердить, что GTG-1002 когда-либо затрагивал реальные производственные системы. Никакая синяя команда не сможет охотиться за аналогичной активностью или задать вопрос: «Мы тоже это видели?» Отчет становится замкнутым кругом, где Anthropic утверждает, Anthropic расследует, Anthropic провозглашает победу.

Это стратегическое неопределенность удобно максимизирует фактор страха. Читатели должны представить себе наихудшие цели — ядерные объекты, центральные банки, разведывательные агентства — поскольку Anthropic никогда не уточняет возможности. В то же время компания избегает названий каких-либо организаций, которые затем могли бы сказать: «Это не так» или «Мы никогда не подвергались взлому».

Вы можете увидеть этот дисбаланс, просматривая собственный документ Anthropic, Разрушение первой зафиксированной кибер-шпионской кампании, организованной ИИ - Полный отчет PDF. Страницы текста описывают фазы, оркестрацию и автономные агенты, но отсутствуют метрики воздействия: ни количества скомпрометированных аккаунтов, ни эксфильтрованных гигабайт, ни нарушенных услуг.

Достоверные отчеты о атаках обычно опираются на последствия: украденные проектные файлы, зашифрованные серверы, утекшие дипломатические документы. В рассказе Anthropic этого не происходит. Читателям предлагают верить, что что-то серьезное произошло где-то с кем-то, в неопределенных масштабах — требование, которое было бы встречено насмешками, если бы это исходило от случайного поставщика, а не от разрекламированной лаборатории ИИ.

Тщательно прочитайте заключительные абзацы отчета Anthropic, и маска падает. После нескольких страниц расплывчатого описания GTG10002 и "автономной" разведки, отчет внезапно задает провокационный вопрос: если ИИ может осуществлять такие атаки, "зачем продолжать их разработку и выпуск?" Этот р rhetorical прием переосмысливает всю narrativa от раскрытия инцидентов до оправдания продукта.

Anthropic сразу же отвечает на собственный вопрос, позиционируя Claude как как поджигателя, так и пожарного. Те же способности, которые, по их словам, позволили организовать кампанию с участием ИИ, становятся "ключевыми для киберзащиты". В отчете перестают говорить о методах GTG10002 и начинают обсуждать "сильные меры защиты" Claude и его роль в помощи профессионалам в области кибербезопасности.

Этот поворот тихо заменяет разведку угроз на коммерческое предложение. Вместо ИОК, ТТП или затронутых секторов читатели получают ценностное предложение: когда "сложные кибератаки неизбежно произойдут", Клод поможет "обнаруживать, прерывать и готовиться к будущим версиям атаки". Теперь предметом обсуждения является не то, что сделал GTG10002, а то, почему организациям следует внедрять Good AI от Anthropic в свою систему безопасности.

Вы можете изложить основное маркетинговое сообщение в трех пунктах: - Плохие атаки ИИ уже здесь (или, по меньшей мере, могут масштабироваться) - Традиционные средства защиты выглядят слишком слабыми по сравнению с автономными агентами - Только модель вроде Claude, с встроенными защитными механизма, может справиться с ситуацией

Это учебный пример FUD: Страх, Неопределенность и Сомнения. Страх: «масштабная» государственная кампания Китая, якобы управляемая ИИ-агентами. Неопределенность: почти нет конкретных данных, жертв или тактик, технологий и процедур, чтобы закрепить историю, лишь достаточно абстракций, чтобы угроза казалась повсюду. Сомнения: подразумеваемый вопрос о том, могут ли ваши существующие инструменты и модели конкурентов справиться с тем, что, по утверждению Anthropic, они наблюдали.

Смотря на это с этой точки зрения, неопределенность перестает выглядеть случайностью и начинает напоминать стратегию. Конкретика ограничила бы универсальность истории; амбигуидность делает ее пригодной для любого коммерческого предложения о угрозах, связанных с ИИ. Заключительный абзац не просто подводит итог отчету Anthropic, он раскрывает его истинную функцию: это не предупреждение для сообщества, а яркий аргумент в пользу того, почему вам следует инвестировать в Claude как в ваш защитный щит от самого апокалипсиса ИИ, который Anthropic только что наметила в общих чертах.

Уберите захватывающий язык о нарушенной "организованной ИИ" шпионской кампании, и документ Anthropic выглядит как тщательно разработанный инструмент фрейминга. Каждая неопределенность вокруг жертв, инструментов и последствий освобождает место для единственного сообщения, которое звучит с кристальной ясностью: ИИ теперь стал центральным элементом кибератак, поэтому вам нужен ИИ в центре вашей защиты—желательно от Anthropic.

Переформулируя неоднозначный инцидент как знаковый момент, Anthropic позиционирует себя как Narrator и спасителя. Она определяет проблему («государственные кибератаки с применением ИИ в масштабах») и рисует ставки («когда сложные кибератаки неизбежно произойдут»), а затем определяет решение: Claude, с «надежными мерами защиты», как актив первого фронта в кибербезопасности, а не просто чат-бота.

Это типичная воронка продаж, а не ответственное раскрытие информации. Обычный отчет по угрозам снабжает защитников повторно использующимися данными: хэшами, доменами, TTP, картами инфраструктуры. Вместо этого "Анализ отчета" Anthropic предоставляет исполнительным директорам сюжет: плохие китайские хакеры использовали ИИ, Anthropic остановил их, и теперь организациям, ориентированным на будущее, необходимо запланировать бюджет на "хороший ИИ", чтобы выжить в следующей волне.

Коммерческие стимулы здесь очевидны. Если Anthropic сможет укрепить нарратив, что: - ИИ является и оружием, и щитом - Закрытые, централизованно контролируемые модели лучше обнаруживают злоупотребления, чем открытые - Будущие атаки будут выглядеть как GTG10002

тогда регуляторы, ИТ-директора по безопасности и советы директоров начинают рассматривать доступ к Claude как необходимую статью расходов, а не как эксперимент с SaaS.

Этот нарратив также удобно отодвигает на второй план модели с открытым исходным кодом и самохостируемые решения, которые не обладают тем уровнем видимости, что у Anthropic, но и не передают третьим лицам полные сведения о вашей внутренней безопасности. Контролируя историю о том, как выглядят «атаки ИИ», Anthropic формирует представление о том, как должна выглядеть «защита ИИ», и кто за это получает оплату.

Этически это склоняется к маркетингу на основе страха. Отчет опирается на лицемерного "поддерживаемого китайским государством" противника, безымянную группу жертв и гипотетическую эскалацию в будущем, чтобы оправдать необходимость покупки большего количества продукции Anthropic. Когда компания стирает грань между предупреждением о общественных интересах и рекламой продукта, она не просто продает услугу; она использует общественную тревогу для создания спроса.

Безопасность на показ имеет свою цену. Когда Anthropic оборачивает тонкий, лишенный деталей нарратив в эстетике отчета о угрозах, это размывает границу между исследованием и маркетингом, и эта утрата доверия не восстанавливается легко. Кибербезопасность основана на общих, проверяемых данных; замените это на впечатления и брендинг, и вся экосистема деградирует.

Команды безопасности уже просматривают сотни оповещений, документации от поставщиков и «срочных» рекомендаций каждый месяц. Если высокопрофильные игроки поднимают громкие, но недостаточно обеспеченные темы о Скоординированных Атаках, защитники научаются игнорировать их. Эта «усталость от угроз» означает, что следующий отчет, описывающий реальный эксплойт нулевого дня, настоящие индикаторы компрометации и конкретные тактики, техники и процедуры воспринимается с недоумением вместо вызова для реагирования на инциденты.

Сенсационные, но необоснованные утверждения также отравляют политические дебаты. Законодатели, советы и регуляторы читают заголовки, а не отличия в коде; разрекламированная операция с "управляемым ИИ", которая на самом деле выглядит как маркетинговая презентация, может исказить финансирование, законодательство и корпоративные приоритеты, отвлекая внимание от реальных рисков. Такие отчёты, как сводка Paul Weiss, Anthropic Disrupts First Documented Case of Large-Scale AI Orchestrated Cyberattack - Paul Weiss Analysis, усиливают это восприятие, не предоставляя отсутствующей технической основы.

Крупнейшие AI-операторы хотят, чтобы к ним относились как к инфраструктуре, а не как к стартапам, гонящимся за модными трендами. Этот статус накладывает обязательства: публиковать подтверждаемые показатели, раскрывать методологию и отделять PR от реагирования на инциденты. Если бы Mandiant или CrowdStrike выпустили "кейс", столь размытый, их бы раскритиковали на конференциях; Anthropic, OpenAI и Google DeepMind должны подвергаться такому же вниманию.

Кибербезопасность стоит слишком дорого — как в плане времени, так и денег, а также рисков, чтобы рассматривать её как упражнение по созданию имиджа. Когда компании поднимают панику с половинчатыми доказательствами и героическими рассказами, они расходуют ограниченный ресурс: готовность защитников, журналистов и законодателей верить им, когда это действительно важно.

Документ Anthropic скорее напоминает отчет об угрозах и больше похож на презентацию, замаскированную под таковой. Он упоминает группу, «финансируемую китайским государством», и «кампанию, организованную ИИ», но так и не предоставляет доказательства, которые настоящая команда безопасности могла бы использовать в SIEM или в системе обнаружения.

Серьезные отчеты о происшествиях от Mandiant или CrowdStrike обычно содержат TTP с сопоставлением с MITRE ATT&CK, индикаторы компрометации (IOC), временные линии и затронутые сектора. Anthropic не предлагает ничего из этого: нет хешей, нет IP-адресов, нет доменов, нет идентификаторов CVE, нет семейств вредоносного ПО, нет языков программирования, даже нет очищенного профиля жертвы.

Основное предположение рушится под давлением элементарной логики операционной безопасности. Предположительно, продвинутый игрок выбирает мониторируемую, закрытую LLM, такую как Claude, чтобы осуществить «Оркестрованную Атаку», фактически даря Anthropic полную телеметрию о своем ремесле. Это как если бы шпионская сеть настаивала на проведении всего своего планирования в корпоративном рабочем пространстве Slack.

Язык в документе сильно склоняется к словесному салату: "минимальное прямое взаимодействие", "автономное обнаружение внутренних сервисов", "картирование полной топологии сети". Ни одна из этих фраз не объясняет, как происходило открытие, какие инструменты использовались или что именно означало "успех" в техническом плане. Это звучит технически, но не может быть опровергнуто.

Затем отчет приходит к своему настоящему сообщению: атаки ИИ неизбежны, поэтому вам нужен «хороший ИИ», чтобы сражаться с «плохим ИИ», в частности, Claude с «сильными мерами безопасности». Страх перед таинственным GTG10002 создает аккуратную воронку продаж для корпоративных и безопасностных предложений Anthropic.

Читатели должны относиться к будущим историям об атаках с использованием ИИ с осторожным скептицизмом. Спрашивайте себя, читаете ли вы документ по безопасности или маркетинговый материал, который случайно упоминает брандмауэры и боковое перемещение.

Достоверный отчет по безопасности ИИ должен включать как минимум:

• 1Четкое описание угрозы и масштаб воздействия.
• 2Конкретные ТТП, сопоставленные с такими фреймворками, как MITRE ATT&CK.
• 3ИОК: IP-адреса, домены, хеши файлов, названия инструментов, детали инфраструктуры
• 4Технический рабочий процесс использования или злоупотребления AI-системой.
• 5Защитные рекомендации, которые могут быть реализованы другими командами
• 6Ограничения, неопределенности и то, что авторы все еще не знают

Если этих деталей не хватает, вы не рассматриваете интеллект. Вы рассматриваете историю.

Что утверждала компания Anthropic в своем отчете по безопасности?

Anthropic заявила, что она нарушила первую кибер-шпионскую кампанию, orchestrированную ИИ, якобы группой, поддерживаемой государством, где их ИИ модель Claude использовалась для автоматизации 80-90% атаки.

Почему эксперты по безопасности скептически относятся к отчёту Anthropic?

Эксперты скептически настроены из-за серьезной нехватки технических деталей, таких как Индикаторы Компрометации (IOC) или Тактики, Техники и Процедуры (TTP). Доклад больше напоминает маркетинговый документ, чем стандартный отчет по угрозам.

Какой ключевой информации не хватает в отчете Anthropic?

В отчете отсутствуют ключевые детали, такие как личности жертв, конкретные инструменты и языки программирования, которые были использованы, масштаб ущерба и какие-либо полезные разведывательные данные, которые могли бы помочь другим защититься от подобных атак.

Какова, по вашему мнению, основная цель отчета Anthropic?

Анализ указывает на то, что основной целью отчета является маркетинг. Он создает страх вокруг атак с использованием ИИ и представляет продукт Anthropic, Claude, как незаменимый инструмент для защиты от них.