Приставка за $55, которая сделала угрозу реальной
Недавнее исследование Anthropic поставило прямой и тревожный вопрос: может ли AI-агент автономно распространяться по сети? Их контролируемый эксперимент, а не реальный взлом устройств, продемонстрировал ключевые составляющие такой угрозы. Полученные результаты говорят о том, что будущие модели могут достичь этой способности раньше, чем многие ожидают.
Чтобы изучить это, исследователи приобрели 15 недорогих Android TV-приставок, каждая из которых стоила примерно $55 и была оснащена 4 ГБ оперативной памяти. Эти дешевые потребительские устройства были объединены в сеть, имитируя потенциальную распределенную вычислительную среду. Цель состояла в том, чтобы выяснить, может ли такое недорогое оборудование способствовать созданию коллективной децентрализованной системы логического вывода.
Важно отметить, что эта установка тестировала компоненты возможного AI-червя, а не полностью реализованную самораспространяющуюся модель, уже встроенную в смарт-ТВ, холодильники или духовки. Исследовалась теоретическая способность AI-агента распространяться и устанавливать distributed inference на обычном оборудовании. Эксперимент был направлен на понимание потенциала будущих AI-агентов использовать такие сети для своих операций, а не на демонстрацию немедленной угрозы со стороны современных умных устройств.
Как Gemma была распределена по сети
Для запуска AI-модели на таком ограниченном оборудовании Anthropic использовали layer sharding. Они разделили Google Gemma4-26B-A4B, открытую модель с 26 миллиардами параметров, между 15 сетевыми Android TV-приставками. Каждая приставка получила примерно два последовательных слоя модели, передавая свои вычислительные результаты следующему устройству в цепочке.
Распределение модели таким образом сделало эксперимент осуществимым, позволив всей модели Gemma выполняться на недорогом оборудовании. Однако эта последовательная обработка потребовала значительных затрат производительности: конвейер выдавал всего 0.39 токена в секунду. Это означает, что на короткое предложение уходит около минуты, что подчеркивает серьезную задержку, присущую такой распределенной настройке.
Эта экспериментальная конфигурация, хотя и демонстрирует распределенный логический вывод, не является практической угрозой ботнета. Медленный, зависящий от сети логический вывод резко контрастирует с быстрым выполнением, необходимым для масштабного взлома. Кроме того, относительно мощные ТВ-приставки, каждая с 4 ГБ оперативной памяти, значительно отличаются от крошечных микроконтроллеров с ограниченными ресурсами, встречающихся во многих реальных IoT-устройствах. Установка Anthropic доказала концепцию, но не является готовым к развертыванию оружием.
Одна модель распространилась; ключевые части не пересекались
Исследователи поручили AI agent распространиться по упрощенной сети из восьми машин. Этот агент, по сути небольшая программа, способная выполнять команды, использовал большую языковую модель в качестве движка рассуждений для обнаружения целей, получения доступа к выполнению и установления логического вывода на новых узлах.
Из протестированных моделей только GLM-5.2 успешно выполнила задачу полного распространения. Работая на отдельной мощной хост-машине, GLM-5.2 достигла всех восьми целевых машин в четырех из пяти экспериментальных запусков и семи из восьми в оставшемся запуске. Другие модели постоянно не справлялись с выполнением многоэтапного процесса.
Эта демонстрация, хотя и убедительна, подчеркивает важное различие: между способностью и возможностью развертывания. GLM-5.2, модель с 753 миллиардами параметров, слишком велика для запуска на Android TV-приставке за $55. Подробнее об этом исследовании можно прочитать в полных выводах Anthropic: AI models may be capable of self-replicating without access to a datacenter.
Меньшая модель Gemma, распределенная по TV-приставкам, продемонстрировала работу в шардированной конфигурации, но не тестировалась на предмет полной автономной репликации. Таким образом, модель, достаточно интеллектуальная для автономного распространения, оказалась слишком большой для периферийных устройств, а модель, достаточно компактная для них, не показала способности к саморепликации в данный момент. Схождение этих двух критических факторов остается вопросом будущего, а не текущей реальностью.
Нравится статья? Получайте такие каждое утро на почту.
одно письмо в день · отписка в два клика · без сторонних трекеров
Риск — это прогноз, а не обратный отсчет
Оценка Anthropic, относящаяся к концу 2026 года, служит прогнозом, а не крайним сроком. Основная обеспокоенность заключается в том, что будущие малые модели (~8 млрд параметров) смогут объединить удобство использования Gemma4-26B-A4B на периферийных устройствах с автономными кибервозможностями, продемонстрированными GLM-5.2. Это предполагает потенциальное схождение, при котором модель сможет одновременно работать на Android TV-приставке за $55 и самостоятельно распространяться.
Однако реальные сети создают значительные препятствия, которые этот упрощенный бенчмарк не учел в полной мере. Разнородное оборудование, сложные протоколы аутентификации, надежные брандмауэры и ненадежные соединения создавали бы совокупные ошибки для автономного агента. Текущая скорость вывода 0.39 токенов в секунду также подчеркивает экстремальную задержку такой распределенной системы.
В тестах использовались общедоступные веса моделей, что вызвало дискуссию о формулировках исследования Anthropic. Некоторые критики предполагают, что акцент на моделях с открытыми весами может подстегнуть призывы к их ограничению. Важно отличать эти политические опасения от измеренных технических результатов эксперимента.
Независимо от дискуссий, практические приоритеты остаются ясными: усиление сетевой защиты, внедрение надежного контроля доступа и улучшение мониторинга необычной активности AI-агентов. Эксперимент подчеркивает меняющийся ландшафт угроз, акцентируя внимание на необходимости превентивных мер безопасности против будущих, более способных систем ИИ.
Часто задаваемые вопросы
Продемонстрировала ли Anthropic распространение AI-червя по реальным умным устройствам?
Нет. В эксперименте использовалась упрощенная тестовая сеть, а не реальная атака на бытовые приборы.
Может ли протестированная модель ИИ работать на Android TV-приставке?
Распределенная установка Gemma работала на нескольких приставках, но модель, выполнявшая задачи по распространению, работала на отдельном, гораздо более мощном хосте.
Почему важна саморепликация ИИ?
Адаптивный агент, способный находить устройства, выполнять задачи и развертывать себя, может сделать некоторые киберугрозы более трудными для прогнозирования и сдерживания.
Неизбежен ли ботнет на базе ИИ?
Тест не показывает, что он неизбежен. Он подчеркивает возможный риск в будущем, одновременно выявляя серьезные ограничения возможностей и аппаратного обеспечения на сегодняшний день.