Die 55-Dollar-Box, die die Bedrohung real erscheinen ließ
Die aktuelle Forschung von Anthropic stellte eine direkte, beunruhigende Frage: Könnte sich ein KI-Agent autonom in einem Netzwerk verbreiten? Ihr kontrolliertes Experiment, kein realer Angriff auf Geräte, demonstrierte die wesentlichen Bestandteile einer solchen Bedrohung. Die Ergebnisse deuten darauf hin, dass zukünftige Modelle diese Fähigkeit schneller erreichen könnten, als viele erwarten.
Um dies zu untersuchen, erwarben die Forscher 15 Android-TV-Boxen von Drittanbietern, die jeweils etwa 55 Dollar kosteten und mit 4 GB RAM ausgestattet waren. Diese kostengünstigen Geräte für den Massenmarkt wurden vernetzt, um eine potenzielle verteilte Rechenumgebung zu simulieren. Das Ziel war es zu sehen, ob solch kostengünstige Hardware zu einem kollektiven, dezentralen Inferenzsystem beitragen könnte.
Entscheidend ist, dass dieser Aufbau Komponenten eines möglichen KI-Wurms testete und kein vollständig realisiertes, selbstreplizierendes Modell, das bereits in Smart-TVs, Kühlschränken oder Öfen eingebettet ist. Es wurde die theoretische Kapazität untersucht, mit der ein KI-Agent sich verbreiten und distributed inference auf handelsüblicher Hardware etablieren kann. Das Experiment zielte darauf ab, das Potenzial für zukünftige KI-Agenten zu verstehen, solche Netzwerke für ihre eigenen Operationen zu nutzen, anstatt eine unmittelbare Bedrohung durch aktuelle Smart-Geräte zu demonstrieren.
Wie Gemma über das Netzwerk verteilt wurde
Um ein KI-Modell auf solch eingeschränkter Hardware auszuführen, nutzte Anthropic layer sharding. Sie teilten Googles Gemma4-26B-A4B, ein offenes Modell mit 26 Milliarden Parametern, auf die 15 vernetzten Android-TV-Boxen auf. Jede Box erhielt etwa zwei aufeinanderfolgende Schichten des Modells und gab ihre Rechenergebnisse an das nächste Gerät in der Pipeline weiter.
Die Verteilung des Modells auf diese Weise machte das Experiment machbar und ermöglichte es, das gesamte Gemma-Modell auf der kostengünstigen Hardware auszuführen. Diese serielle Verarbeitung ging jedoch mit erheblichen Leistungseinbußen einher: Die Pipeline erzeugte nur 0,39 Tokens pro Sekunde. Dies entspricht etwa einer Minute für einen kurzen Satz und unterstreicht die schwerwiegende Latenz, die diesem verteilten Aufbau innewohnt.
Diese experimentelle Konfiguration demonstriert zwar verteilte Inferenz, entspricht aber keiner praktischen Botnetz-Bedrohung. Die langsame, netzwerkabhängige Inferenz steht in krassem Gegensatz zur schnellen Ausführung, die für eine weitverbreitete Kompromittierung erforderlich wäre. Zudem unterscheiden sich die relativ leistungsfähigen TV-Boxen mit jeweils 4 GB RAM deutlich von den winzigen, ressourcenbeschränkten Mikrocontrollern, die in vielen realen IoT-Geräten zu finden sind. Anthropics Aufbau bewies ein Konzept, aber keine sofort einsetzbare Waffe.
Ein Modell verbreitete sich; die entscheidenden Teile überschnitten sich nicht
Die Forscher beauftragten einen AI agent damit, sich über ein vereinfachtes Netzwerk aus acht Maschinen zu verbreiten. Dieser Agent, im Wesentlichen ein kleines Programm, das Befehle ausführen kann, nutzte ein großes Sprachmodell als seine logische Engine, um Ziele zu entdecken, Zugriff zu erlangen und Inferenz auf neuen Knoten zu etablieren.
Von den getesteten Modellen führte nur GLM-5.2 die vollständige Verbreitungsaufgabe erfolgreich aus. Auf einem separaten, leistungsstarken Host-Rechner laufend, erreichte GLM-5.2 alle acht Zielmaschinen in vier von fünf experimentellen Durchläufen und sieben von acht im verbleibenden Durchlauf. Andere Modelle scheiterten konsequent daran, den mehrstufigen Prozess abzuschließen.
Diese Demonstration ist zwar überzeugend, unterstreicht jedoch einen entscheidenden Unterschied: Leistungsfähigkeit versus Bereitstellbarkeit. GLM-5.2, ein Modell mit 753 Milliarden Parametern, ist viel zu groß, um auf einer 55-Dollar-Android-TV-Box zu laufen. Weitere Informationen zu dieser Forschung finden Sie in den vollständigen Ergebnissen von Anthropic: AI models may be capable of self-replicating without access to a datacenter.
Das kleinere Gemma-Modell, das auf die TV-Boxen verteilt wurde, konnte zwar in einer Sharded-Konfiguration betrieben werden, wurde jedoch nicht auf eine vollständige autonome Verbreitung getestet. Daher war das Modell, das intelligent genug für eine autonome Verbreitung wäre, zu groß für Edge-Geräte, und das Modell, das klein genug für Edge-Geräte war, zeigte nicht, dass es jetzt zur Selbstreplikation fähig ist. Das Zusammenlaufen dieser beiden kritischen Faktoren bleibt ein zukünftiges Anliegen, keine gegenwärtige Realität.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Das Risiko ist eine Prognose, kein Countdown
Die Schätzung von Anthropic für Ende 2026 dient als Prognose, nicht als Frist. Die Kernsorge ist, dass zukünftige kleine Modelle (~8 Mrd. Parameter) die Edge-Geräte-Tauglichkeit von Gemma4-26B-A4B mit den autonomen Cyber-Fähigkeiten kombinieren könnten, die bei GLM-5.2 demonstriert wurden. Dies deutet auf eine potenzielle Konvergenz hin, bei der ein Modell sowohl auf einer 55-Dollar-Android-TV-Box laufen als auch sich unabhängig verbreiten kann.
Reale Netzwerke stellen jedoch erhebliche Hindernisse dar, die dieser vereinfachte Benchmark nicht vollständig erfasst hat. Unterschiedliche Hardware, komplexe Authentifizierungsprotokolle, robuste Firewalls und unzuverlässige Verbindungen würden für einen autonomen Agenten zu kumulativen Fehlern führen. Die aktuelle Inferenzrate von 0,39 Tokens pro Sekunde unterstreicht zudem die extreme Latenz eines solchen verteilten Systems.
Die Tests beinhalteten öffentlich verfügbare Modellgewichte, was eine Debatte über die Darstellung der Forschung von Anthropic auslöste. Einige Kritiker vermuten, dass der Fokus auf Open-Weight-Modelle Forderungen nach deren Einschränkung befeuern könnte. Es ist entscheidend, diese politischen Bedenken von den gemessenen technischen Ergebnissen des Experiments zu unterscheiden.
Ungeachtet der Debatte bleiben die praktischen Prioritäten klar: Stärkung der Netzwerkverteidigung, Implementierung robuster Zugriffskontrollen und verbesserte Überwachung auf ungewöhnliche Aktivitäten von KI-Agenten. Das Experiment unterstreicht die sich entwickelnde Bedrohungslandschaft und betont die Notwendigkeit proaktiver Sicherheitsmaßnahmen gegen zukünftige, leistungsfähigere KI-Systeme.
Häufig gestellte Fragen
Hat Anthropic demonstriert, wie sich ein KI-Wurm über echte Smart-Home-Geräte verbreitet?
Nein. Das Experiment verwendete ein vereinfachtes Testnetzwerk, keinen realen Angriff auf Haushaltsgeräte.
Könnte das getestete KI-Modell auf einer Android-TV-Box laufen?
Das verteilte Gemma-Setup lief über mehrere Boxen, aber das Modell, das die Verbreitungsaufgaben ausführte, lief auf einem separaten, wesentlich größeren Host.
Warum ist KI-Selbstreplikation wichtig?
Ein adaptiver Agent, der Geräte finden, Aufgaben ausführen und sich selbst bereitstellen kann, könnte einige Cyber-Bedrohungen schwerer vorhersehbar und eindämmbar machen.
Steht ein KI-gestütztes IoT-Botnetz unmittelbar bevor?
Der Test zeigt nicht, dass ein solches unmittelbar bevorsteht. Er beleuchtet ein mögliches zukünftiges Risiko und legt gleichzeitig die heutigen großen Leistungs- und Hardwarebeschränkungen offen.