La inquietante afirmación: un gusano con cerebro de IA
¿Podría un agente de IA localizar de forma autónoma dispositivos vulnerables, instalar su software y propagarse perpetuamente sin intervención humana? Esta pregunta sustenta la investigación reciente sobre gusanos de IA autorreplicantes, que combina dos capacidades críticas. Dicho gusano requeriría un modelo lo suficientemente pequeño como para ejecutarse en hardware económico y un agente lo suficientemente inteligente como para adaptarse e instalarse en diversos sistemas.
El Frontier Red Team de Anthropic exploró recientemente estos componentes, no un gusano autónomo totalmente realizado al estilo de Skynet de The Terminator. Su trabajo disecciona partes de este complejo escenario, probando rigurosamente los requisitos individuales en lugar de presentar una amenaza real ya funcional. Esta cuidadosa distinción es crucial para comprender las implicaciones de la investigación.
Los investigadores investigaron si un modelo de IA podría fragmentarse en 15 cajas de Android TV de marca blanca, cada una con un costo de alrededor de $55 y con solo 4 GB de RAM. Ejecutaron con éxito Gemma4-26B-A4B de Google, un modelo cuantizado de 4 bits, particionando sus capas, aunque a una velocidad lenta de 0.39 tokens por segundo. Esto demostró la viabilidad de la inferencia distribuida en hardware de bajo costo.
Por separado, Anthropic probó la capacidad de propagación de un agente de IA. En una red cerrada de 8 nodos de Google Cloud Platform, GLM-5.2, un modelo de 753 mil millones de parámetros, logró la replicación autónoma en 4 de 5 intentos. Sin embargo, los dispositivos de destino tenían sus puertos Android Debug Bridge (ADB) expuestos deliberadamente, lo que simplificó el paso de "piratería" para centrarse en el desafío de la instalación.
Quince cajas de TV ejecutaron un modelo dolorosamente lento
La demostración de hardware inicial de Anthropic involucró la conexión en red de 15 cajas de Android TV de marca blanca, cada una con un costo aproximado de $55. Estos dispositivos, comunes en los hogares, ofrecían una potencia computacional limitada con aproximadamente 4 GB de RAM por unidad. Ninguna caja por sí sola podía ejecutar un modelo de IA sustancial.
Los investigadores abordaron esta limitación implementando fragmentación de modelos (model sharding). Utilizaron el modelo Gemma 4 26B de Google, cuantizado a 4 bits, y distribuyeron sus capas a través de los dispositivos conectados en red. Cada caja de TV procesó solo unas pocas capas, pasando los cálculos intermedios secuencialmente al siguiente dispositivo.
Este enfoque ejecutó el modelo con éxito, demostrando que incluso el hardware distribuido de bajo costo puede alojar colectivamente una IA sofisticada. Sin embargo, el rendimiento fue notablemente lento: el sistema generó respuestas a 0.39 tokens por segundo, lo que se traduce en aproximadamente una oración corta por minuto. Esta velocidad destaca una compensación crítica, convirtiéndolo en una prueba de concepto en lugar de un servicio de IA de alta velocidad práctico.
Un modelo se propagó, pero el experimento tenía truco
Anthropic luego pasó a una prueba separada para el componente de "gusano": la capacidad de un agente de IA para autorreplicarse. Los investigadores establecieron una red sellada de ocho máquinas de Google Cloud, cada una con Android, y lanzaron el agente en un nodo. Su tarea: localizar otras máquinas, copiar su software e iniciar un modelo.
Un modelo, GLM-5.2, completó con éxito este ciclo en las ocho máquinas en cuatro de los cinco intentos, y en siete de ocho en el intento restante. Todos los demás modelos probados fallaron en la tarea completa. Esto demostró la capacidad de una IA para propagarse de forma autónoma y establecer un modelo funcional.
Sin embargo, este resultado conlleva advertencias críticas. Por un lado, los investigadores configuraron deliberadamente las máquinas con acceso abierto a Android Debug Bridge (ADB) y sin contraseña, lo que simplificó el paso inicial de compromiso. Además, el razonamiento del modelo grande del agente se ejecutó en un servidor potente independiente, no en las propias máquinas objetivo.
Fundamentalmente, el agente no instaló una copia de su propio "cerebro" en los dispositivos objetivo. En su lugar, su objetivo era instalar Llama 3.1 8B, un modelo más pequeño que actuó como proxy del tipo de carga útil que podría transportar un gusano real. Para obtener más detalles sobre la investigación subyacente, consulte AI models may be capable of self-replicating without access to a datacenter - Anthropic. Estas condiciones destacan que, aunque se logró la propagación autónoma, esta dependió de un entorno significativamente simplificado en comparación con las amenazas del mundo real.
¿Te está gustando? Recibe uno así en tu bandeja cada mañana.
un correo al día · date de baja en dos clics · sin rastreadores de terceros
¿Riesgo real o un salto de la prueba al pánico?
La replicación autónoma sigue siendo una amenaza teórica, no inminente. El modelo que demostró la autopropagación, GLM 5.2, cuenta con 753 mil millones de parámetros, demasiado grande para un Android TV box típico. Por el contrario, los modelos lo suficientemente pequeños para esos dispositivos no pudieron completar la tarea de replicación. Las capacidades simplemente aún no se superponen.
Sin embargo, los Android TV boxes son vulnerables. La botnet Kimwolf ya ha infectado más de 2 millones de estos dispositivos, muchos de los cuales se enviaron con puertos de depuración ADB expuestos y sin contraseña de forma predeterminada. Aunque la prueba de replicación utilizó puertos deliberadamente abiertos, este precedente del mundo real demuestra que tales puntos de entrada no son imaginarios.
Mover pesos de modelos de varios gigabytes entre dispositivos sería llamativo y lento. Un gusano de 9 mil millones de parámetros, por ejemplo, necesitaría de 28 a 51 horas para instalar un modelo en cada nuevo dispositivo. Esta lentitud daría a los defensores de la red amplias oportunidades para detectar y mitigar la propagación.
Anthropic proyecta que los modelos pequeños podrían obtener estas capacidades combinadas para finales de 2026, pero esto sigue siendo una estimación, no una certeza. Si bien la investigación destaca un riesgo futuro potencial, no proporciona evidencia de una infección masiva inminente. El debate continúa: ¿riesgo real o un salto de la prueba al pánico?
Preguntas frecuentes
¿Pueden los modelos de IA replicarse actualmente a través de dispositivos inteligentes?
Las pruebas de Anthropic no demostraron un gusano completo e independiente en dispositivos inteligentes reales. El modelo capaz de coordinar la prueba era demasiado grande para ejecutarse en los dispositivos objetivo.
¿Qué probó el experimento de IA autorreplicante de Anthropic?
Los investigadores probaron por separado la ejecución de un modelo en Android TV boxes de bajo costo y la capacidad de un agente de IA para instalar un modelo en máquinas Android conectadas en red.
¿Por qué se criticaron las condiciones de la prueba?
Las máquinas objetivo tenían puertos Android Debug Bridge sin autenticación expuestos, y el agente utilizó un servidor separado para su razonamiento.
¿Por qué los Android TV boxes baratos son una preocupación de seguridad?
Algunos se envían con configuraciones predeterminadas inseguras, incluidos puertos de depuración expuestos. Los investigadores han relacionado dichos dispositivos con grandes botnets, incluida Kimwolf.