A afirmação perturbadora: um worm com cérebro de IA
Um agente de IA poderia localizar autonomamente dispositivos vulneráveis, instalar seu software e se espalhar perpetuamente sem intervenção humana? Essa pergunta fundamenta pesquisas recentes sobre worms de IA autorreplicantes, que combinam duas capacidades críticas. Tal worm exigiria um modelo pequeno o suficiente para rodar em hardware barato e um agente inteligente o suficiente para se adaptar e instalá-lo em diversos sistemas.
O Frontier Red Team da Anthropic explorou recentemente esses componentes, não um worm autônomo totalmente realizado, semelhante ao Skynet de The Terminator. O trabalho deles disseca partes desse cenário complexo, testando rigorosamente requisitos individuais em vez de apresentar uma ameaça real e já funcional. Essa distinção cuidadosa é crucial para entender as implicações da pesquisa.
Os pesquisadores investigaram se um modelo de IA poderia ser fragmentado em 15 Android TV boxes de marcas genéricas, cada uma custando cerca de US$ 55 e possuindo apenas 4 GB de RAM. Eles executaram com sucesso o Gemma4-26B-A4B do Google, um modelo quantizado de 4 bits, particionando suas camadas, embora a uma velocidade lenta de 0,39 tokens por segundo. Isso demonstrou a viabilidade da inferência distribuída em hardware de baixo custo.
Separadamente, a Anthropic testou a capacidade de propagação de um agente de IA. Em uma rede fechada de 8 nós do Google Cloud Platform, o GLM-5.2, um modelo de 753 bilhões de parâmetros, alcançou autorreplicação em 4 de 5 tentativas. No entanto, os dispositivos de destino tiveram suas portas Android Debug Bridge (ADB) deliberadamente expostas, simplificando a etapa de "hacking" para focar no desafio da instalação.
Quinze TV boxes rodaram um modelo dolorosamente lento
A demonstração de hardware inicial da Anthropic envolveu a conexão em rede de 15 Android TV boxes de marcas genéricas, cada uma custando aproximadamente US$ 55. Esses dispositivos, comuns em residências, ofereciam poder computacional limitado com cerca de 4 GB de RAM por unidade. Nenhuma caixa sozinha poderia rodar um modelo de IA substancial.
Os pesquisadores abordaram essa restrição implementando fragmentação de modelo (model sharding). Eles usaram o modelo Gemma 4 26B do Google, quantizado para 4 bits, e distribuíram suas camadas pelos dispositivos em rede. Cada TV box processou apenas algumas camadas, passando computações intermediárias sequencialmente para o próximo dispositivo.
Essa abordagem executou o modelo com sucesso, demonstrando que mesmo hardware distribuído de baixo custo pode hospedar coletivamente uma IA sofisticada. No entanto, o desempenho foi notavelmente lento: o sistema gerou respostas a 0,39 tokens por segundo, o que equivale a cerca de uma frase curta por minuto. Essa velocidade destaca um compromisso crítico, tornando-o uma prova de conceito em vez de um serviço de IA prático de alta velocidade.
Um modelo se espalhou — mas o experimento tinha um porém
A Anthropic então mudou para um teste separado para o componente de “worm”: a capacidade de um agente de IA de se autorreplicar. Os pesquisadores estabeleceram uma rede selada de oito máquinas do Google Cloud, cada uma rodando Android, e lançaram o agente em um nó. Sua tarefa: localizar outras máquinas, copiar seu software e iniciar um modelo.
Um modelo, GLM-5.2, completou com sucesso esse ciclo em todas as oito máquinas em quatro de cinco tentativas, e sete de oito na tentativa restante. Todos os outros modelos testados falharam na tarefa completa. Isso demonstrou a capacidade de uma IA de se espalhar autonomamente e estabelecer um modelo funcional.
No entanto, ressalvas críticas acompanham este resultado. Por um lado, os pesquisadores configuraram deliberadamente as máquinas com acesso aberto ao Android Debug Bridge (ADB) e sem senha, simplificando a etapa inicial de comprometimento. Além disso, o raciocínio do próprio modelo de linguagem do agente foi executado em um servidor potente separado, e não nas próprias máquinas alvo.
Crucialmente, o agente não instalou uma cópia do seu próprio "cérebro" nos dispositivos alvo. Em vez disso, seu objetivo era instalar o Llama 3.1 8B, um modelo menor, que atuou como um proxy para o tipo de carga útil que um worm real poderia transportar. Para mais detalhes sobre a pesquisa subjacente, consulte AI models may be capable of self-replicating without access to a datacenter - Anthropic. Essas condições destacam que, embora a propagação autônoma tenha sido alcançada, ela dependeu de um ambiente significativamente simplificado em comparação com ameaças do mundo real.
Gostando do artigo? Receba um assim na sua caixa de entrada toda manhã.
um e-mail por dia · cancele em dois cliques · sem rastreadores de terceiros
Risco real ou um salto da prova para o pânico?
A replicação autônoma permanece uma ameaça teórica, não iminente. O modelo que demonstrou a autorreplicação, GLM 5.2, possui 753 bilhões de parâmetros — grande demais para uma típica Android TV box. Por outro lado, modelos pequenos o suficiente para esses dispositivos não conseguiriam concluir a tarefa de replicação. As capacidades simplesmente ainda não se sobrepõem.
As Android TV boxes, no entanto, são vulneráveis. A botnet Kimwolf já infectou mais de 2 milhões desses dispositivos, muitos enviados com portas de depuração ADB expostas e sem senha por padrão. Embora o teste de replicação tenha usado portas deliberadamente abertas, esse precedente do mundo real mostra que tais pontos de entrada não são imaginários.
Mover pesos de modelos de vários gigabytes entre dispositivos seria conspícuo e lento. Um worm de 9 bilhões de parâmetros, por exemplo, precisaria de 28 a 51 horas para instalar um modelo em cada novo dispositivo. Essa lentidão daria aos defensores de rede ampla oportunidade para detectar e mitigar a propagação.
A Anthropic projeta que modelos pequenos podem ganhar essas capacidades combinadas até o final de 2026, mas isso permanece uma estimativa, não uma certeza. Embora a pesquisa destaque um risco futuro potencial, ela não fornece evidências de uma infecção em massa iminente. O debate continua: risco real ou um salto da prova para o pânico?
Perguntas Frequentes
Modelos de IA podem atualmente se replicar em dispositivos inteligentes?
Os testes da Anthropic não demonstraram um worm completo e independente em dispositivos inteligentes reais. O modelo capaz de coordenar o teste era grande demais para rodar nos dispositivos alvo.
O que o experimento de IA autorreplicante da Anthropic testou?
Os pesquisadores testaram separadamente a execução de um modelo em Android TV boxes de baixo custo e a capacidade de um agente de IA instalar um modelo em máquinas Android conectadas em rede.
Por que as condições do teste foram criticadas?
As máquinas alvo tinham portas Android Debug Bridge sem autenticação expostas, e o agente usou um servidor separado para seu raciocínio.
Por que as Android TV boxes baratas são uma preocupação de segurança?
Algumas são enviadas com configurações padrão inseguras, incluindo portas de depuração expostas. Pesquisadores associaram tais dispositivos a grandes botnets, incluindo a Kimwolf.