ИИ Anthropic только что был запрещен

Флагманские модели ИИ Anthropic, Fable 5 и Mythos 5, исчезли за одну ночь из цифрового пространства. Резкая директива правительства США по экспортному контролю, ссылаясь на насущные проблемы национальной безопасности, внезапно приостановила доступ для всех 'иностранных граждан', обширная категория, которая включала даже собственных сотрудников Anthropic, не являющихся гражданами, как внутри, так и за пределами Соединенных Штатов.

Воздействие было немедленным и хаотичным. В течение нескольких часов после приказа Anthropic подчинилась, отключив обе модели для всех клиентов по всему миру, несмотря на то, что назвала директиву "недоразумением". Это драконовское отключение застало врасплох бесчисленные предприятия и разработчиков, мгновенно лишив их доступа к передовым возможностям и вынудив срочно и резко перейти на альтернативные, часто уступающие по качеству, решения. Агенты, работающие на Fable 5, например, просто перестали работать.

Эта директива создает кошмар для правоприменения. Как, собственно, Anthropic может реально проверить гражданство каждого пользователя API и их последующих приложений по всему миру? Отрасль теперь сталкивается с пугающей перспективой инвазивных требований 'Знай своего клиента' (KYC), аналогичных тем, что существуют в финансах, что фундаментально изменит услуги ИИ и конфиденциальность пользователей, поднимая глубокие вопросы о цифровом суверенитете.

Внезапный запрет Anthropic на Fable 5 и Mythos 5 для иностранных граждан — это самонанесенная рана, а не непредвиденное бедствие. Последовательная стратегия компании по позиционированию своих моделей как уникально мощных, даже опасно мощных, прямо нарисовала мишень на ее спине, приглашая к экстремальным регуляторным действиям, с которыми она теперь сталкивается.

За несколько месяцев до запрета Anthropic представила 'Project Glasswing', мастер-класс по маркетингу, основанному на страхе. Они рекламировали невыпущенную передовую модель, Mythos Preview, как настолько мощную в возможностях кибератаки и защиты, что она была "слишком опасна для публичного выпуска". Эта модель, переданная консорциуму технологических компаний, уже обнаружила "тысячи уязвимостей высокой степени серьезности", некоторые из которых оставались незамеченными десятилетиями.

Это было не первое столкновение Anthropic с озабоченностью правительства. Более ранний, широко публичный спор показал, что они отказались от военного использования своих моделей, в частности для "полностью автономного оружия" или "массового наблюдения". Это неповиновение привело к тому, что Министерство войны сочло Anthropic "риском для цепочки поставок", беспрецедентным ярлыком для американской компании, создав четкий прецедент для будущих трений.

Постоянно подчеркивая беспрецедентную мощь Mythos и ее потенциал для неправомерного использования, Anthropic непреднамеренно спровоцировала именно такой исход. Их маркетинг вокруг ее кибер-возможностей, а затем и "нейтрализованный" статус Fable 5, укрепил представление об уникально мощном инструменте. Правительство, теперь убежденное в ее внутренней опасности и потенциале для "джейлбрейка", просто действовало в соответствии с собственным нарративом Anthropic.

Катализатор для запрета появился, и это почти комично иронично: обнаружение техники джейлбрейка для Fable 5. Каждая большая языковая модель, по своей природе, остается уязвимой для некоторой формы джейлбрейка; это известная, присущая черта современного ИИ. Эта повсеместная уязвимость заставила необычно суровую директиву правительства по национальной безопасности против Anthropic выглядеть как чрезмерная реакция — или удобное оправдание.

Затем последовал по-настоящему шокирующий поворот. Сообщается, что взлом (jailbreak) был обнаружен не злоумышленником, а исследователями из Amazon, крупного инвестора и стратегического партнера Anthropic. Генеральный директор Amazon Энди Джасси предположительно использовал это открытие, напрямую выразив обеспокоенность высокопоставленным чиновникам администрации, что фактически раздуло панику, приведшую к директиве.

Предполагаемое вмешательство Джасси, по данным The Information, «помогло запустить» беспрецедентные экспортные ограничения на Mythos и Fable 5. Эта поразительная последовательность событий представляет ситуацию как потенциальный корпоративный саботаж: критически важный партнер и конкурент использовали общую уязвимость модели, чтобы спровоцировать реакцию национальной безопасности против Anthropic, ярко иллюстрируя игру с нулевой суммой на переднем крае ИИ. Для получения дополнительной информации Anthropic опубликовала Заявление о директиве правительства США о приостановке доступа к Fable 5 и Mythos 5.

Внезапный запрет Anthropic на Mythos 5 и Fable 5, якобы из-за «узкого взлома» (narrow jailbreak), немедленно обрушивает ее рыночную позицию. Долгожданное IPO теперь сталкивается с неопределенной задержкой, поскольку инвесторы ставят под сомнение жизнеспособность компании, чьи флагманские продукты официально названы угрозами национальной безопасности. Это не просто неудача в PR; это фундаментальный удар по их коммерческому предприятию, вынуждающий их бороться за восстановление доверия и доступа.

Помимо Anthropic, эта директива создает пугающий прецедент: правительства теперь могут запрещать конкретные модели ИИ, а не только оборудование. Если «узкий взлом» (narrow jailbreak) может вызвать глобальное отключение для «иностранных граждан», инновации могут застопориться. Разработчики могут избегать продвижения передовых возможностей, опасаясь, что любая непредвиденная уязвимость может привести к тому, что их модели будут объявлены вне закона в одночасье, что задушит целую отрасль, построенную на быстрой итерации.

Будущие траектории резко расходятся. Один путь предполагает урегулирование путем переговоров, потенциально ведущее к регуляторному захвату (regulatory capture), когда только хорошо обеспеченные действующие игроки, такие как Anthropic (если они восстановятся), смогут позволить себе огромные затраты на соблюдение требований. Другой, более вероятный, подталкивает страны к суверенитету ИИ (AI sovereignty), ускоряя разработку отечественных моделей, чтобы избежать зависимости от систем, контролируемых из-за рубежа. Важно отметить, что этот инцидент также подпитывает глобальный спрос на ИИ с открытым исходным кодом (open-source AI), предлагая децентрализованные, прозрачные альтернативы, невосприимчивые к таким произвольным, централизованным точкам отказа, что защищает от будущих запретов.

Почему были отключены модели Anthropic Fable 5 и Mythos 5?

Правительство США издало директиву об экспортном контроле, чтобы приостановить доступ для всех неграждан США («иностранных граждан»), ссылаясь на соображения национальной безопасности после того, как был обнаружен и сообщен метод «взлома» (jailbreak) модели Fable 5.

Какова была роль Amazon в запрете ИИ Anthropic?

Сообщается, что исследователи из Amazon, крупного инвестора Anthropic, обнаружили взлом (jailbreak). The Information сообщила, что генеральный директор Amazon Энди Джасси был среди технологических лидеров, которые выразили обеспокоенность по поводу безопасности администрации Трампа, что способствовало принятию директивы.

Что такое Project Glasswing и как он связан?

Project Glasswing был инициативой Anthropic по тестированию Mythos, ее невыпущенной передовой модели. Anthropic активно продвигала мощность и потенциальную опасность модели, что, по мнению критиков, привлекло внимание правительства и способствовало текущему запрету.

Будет ли восстановлен доступ к Fable 5 и Mythos 5?

Anthropic считает, что запрет является «недоразумением» и работает над восстановлением доступа. Аналитики предсказывают, что сделка может быть заключена с правительством, возможно, включающая более строгую проверку пользователей, но сроки и результат неопределенны.