Die beunruhigende Behauptung: ein Wurm mit einem KI-Gehirn
Könnte ein KI-Agent autonom anfällige Geräte finden, seine Software installieren und sich ohne menschliches Eingreifen unendlich verbreiten? Diese Frage bildet die Grundlage für die aktuelle Forschung zu selbstreplizierenden KI-Würmern, die zwei entscheidende Fähigkeiten kombiniert. Ein solcher Wurm würde ein Modell benötigen, das klein genug ist, um auf kostengünstiger Hardware zu laufen, und einen Agenten, der intelligent genug ist, um sich anzupassen und auf verschiedenen Systemen zu installieren.
Das Frontier Red Team von Anthropic hat kürzlich diese Komponenten untersucht, nicht einen voll entwickelten, autonomen Wurm wie Skynet aus The Terminator. Ihre Arbeit analysiert Teile dieses komplexen Szenarios und testet rigoros individuelle Anforderungen, anstatt eine bereits funktionierende, reale Bedrohung zu präsentieren. Diese sorgfältige Unterscheidung ist entscheidend, um die Auswirkungen der Forschung zu verstehen.
Die Forscher untersuchten, ob ein KI-Modell über 15 No-Name Android TV-Boxen verteilt werden könnte, die jeweils etwa 55 $ kosten und nur über 4 GB RAM verfügen. Sie ließen erfolgreich Googles Gemma4-26B-A4B, ein 4-Bit-quantisiertes Modell, laufen, indem sie dessen Schichten partitionierten, wenn auch mit langsamen 0,39 Tokens pro Sekunde. Dies demonstrierte die Machbarkeit verteilter Inferenz auf kostengünstiger Hardware.
Unabhängig davon testete Anthropic die Fähigkeit eines KI-Agenten zur Verbreitung. In einem geschlossenen Netzwerk aus 8 Google Cloud Platform-Knoten erreichte GLM-5.2, ein Modell mit 753 Milliarden Parametern, in 4 von 5 Versuchen eine autonome Replikation. Die Zielgeräte hatten jedoch ihre Android Debug Bridge (ADB)-Ports absichtlich offen, was den „Hacking“-Schritt vereinfachte, um sich auf die Herausforderung der Installation zu konzentrieren.
Fünfzehn TV-Boxen ließen ein quälend langsames Modell laufen
Die erste Hardware-Demonstration von Anthropic umfasste die Vernetzung von 15 No-Name Android TV-Boxen, die jeweils etwa 55 $ kosteten. Diese Geräte, die in vielen Haushalten zu finden sind, boten mit etwa 4 GB RAM pro Einheit nur begrenzte Rechenleistung. Keine einzelne Box konnte ein substanzielles KI-Modell ausführen.
Die Forscher begegneten dieser Einschränkung durch die Implementierung von Modell-Sharding. Sie verwendeten Googles Gemma 4 26B-Modell, quantisiert auf 4-Bit, und verteilten dessen Schichten über die vernetzten Geräte. Jede TV-Box verarbeitete nur wenige Schichten und gab Zwischenberechnungen sequenziell an das nächste Gerät weiter.
Dieser Ansatz führte das Modell erfolgreich aus und bewies, dass selbst kostengünstige, verteilte Hardware gemeinsam eine hochentwickelte KI hosten kann. Die Leistung war jedoch bemerkenswert langsam: Das System generierte Antworten mit 0,39 Tokens pro Sekunde, was etwa einem kurzen Satz pro Minute entspricht. Diese Geschwindigkeit unterstreicht einen kritischen Kompromiss und macht es eher zu einem Proof-of-Concept als zu einem praktischen Hochgeschwindigkeits-KI-Dienst.
Ein Modell verbreitete sich – aber das Experiment hatte einen Haken
Anthropic wechselte dann zu einem separaten Test für die „Wurm“-Komponente: die Fähigkeit eines KI-Agenten zur Selbstreplikation. Die Forscher richteten ein abgeschottetes Netzwerk aus acht Google Cloud-Maschinen ein, auf denen jeweils Android lief, und starteten den Agenten auf einem Knoten. Seine Aufgabe: andere Maschinen finden, seine Software kopieren und ein Modell starten.
Ein Modell, GLM-5.2, schloss diese Schleife erfolgreich über alle acht Maschinen in vier von fünf Versuchen ab, und in sieben von acht im verbleibenden Versuch. Alle anderen getesteten Modelle scheiterten an der vollständigen Aufgabe. Dies demonstrierte die Fähigkeit einer KI, sich autonom zu verbreiten und ein funktionsfähiges Modell zu etablieren.
Dieses Ergebnis ist jedoch mit kritischen Vorbehalten verbunden. Zum einen konfigurierten die Forscher die Geräte absichtlich mit offenem Android Debug Bridge (ADB)-Zugriff und ohne Passwort, was den ersten Schritt der Kompromittierung vereinfachte. Zudem lief das Reasoning des Large-Models des Agenten auf einem separaten, leistungsstarken Server und nicht auf den Zielgeräten selbst.
Entscheidend ist, dass der Agent keine Kopie seines eigenen „Gehirns“ auf den Zielgeräten installierte. Stattdessen bestand sein Ziel darin, Llama 3.1 8B zu installieren, ein kleineres Modell, das als Platzhalter für die Art von Payload diente, die ein echter Wurm mit sich führen könnte. Weitere Details zur zugrunde liegenden Forschung finden Sie unter AI models may be capable of self-replicating without access to a datacenter - Anthropic. Diese Bedingungen verdeutlichen, dass die autonome Verbreitung zwar erreicht wurde, dies jedoch auf einer im Vergleich zu realen Bedrohungen deutlich vereinfachten Umgebung beruhte.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Reales Risiko oder ein Sprung vom Beweis zur Panik?
Autonome Replikation bleibt eine theoretische Bedrohung, keine unmittelbare. Das Modell, das die Selbstreplikation demonstrierte, GLM 5.2, verfügt über 753 Milliarden Parameter – viel zu groß für eine typische Android TV-Box. Umgekehrt könnten Modelle, die klein genug für diese Geräte wären, die Replikationsaufgabe nicht bewältigen. Die Fähigkeiten überschneiden sich schlichtweg noch nicht.
Android TV-Boxen sind jedoch anfällig. Das Kimwolf-Botnetz hat bereits über 2 Millionen solcher Geräte infiziert, von denen viele standardmäßig mit offenen ADB-Debug-Ports und ohne Passwort ausgeliefert wurden. Während der Replikationstest bewusst offene Ports nutzte, zeigt dieser reale Präzedenzfall, dass solche Einstiegspunkte keine bloße Einbildung sind.
Das Verschieben von Modellgewichten in der Größe von mehreren Gigabyte zwischen Geräten wäre sowohl auffällig als auch langsam. Ein Wurm mit 9 Milliarden Parametern würde beispielsweise 28 bis 51 Stunden benötigen, um ein Modell auf jedem neuen Gerät zu installieren. Diese Langsamkeit würde Netzwerkverteidigern reichlich Gelegenheit geben, die Verbreitung zu erkennen und einzudämmen.
Anthropic prognostiziert, dass kleine Modelle diese kombinierten Fähigkeiten bis Ende 2026 erlangen könnten, dies bleibt jedoch eine Schätzung, keine Gewissheit. Während die Forschung ein potenzielles zukünftiges Risiko aufzeigt, liefert sie keine Beweise für eine unmittelbar bevorstehende Masseninfektion. Die Debatte geht weiter: Reales Risiko oder ein Sprung vom Beweis zur Panik?
Häufig gestellte Fragen
Können sich KI-Modelle derzeit selbstständig über Smart-Geräte replizieren?
Die Tests von Anthropic haben keinen vollständigen, unabhängigen Wurm auf echten Smart-Geräten demonstriert. Das Modell, das in der Lage war, den Test zu koordinieren, war zu groß, um auf den Zielgeräten zu laufen.
Was hat das Experiment zur selbstreplizierenden KI von Anthropic getestet?
Die Forscher testeten separat das Ausführen eines Modells auf kostengünstigen Android TV-Boxen sowie die Fähigkeit eines KI-Agenten, ein Modell auf vernetzten Android-Maschinen zu installieren.
Warum wurden die Testbedingungen kritisiert?
Die Zielgeräte hatten nicht authentifizierte Android Debug Bridge-Ports offen, und der Agent nutzte einen separaten Server für sein Reasoning.
Warum sind billige Android TV-Boxen ein Sicherheitsrisiko?
Einige werden mit unsicheren Standardeinstellungen ausgeliefert, einschließlich offener Debugging-Ports. Forscher haben solche Geräte mit großen Botnetzen, einschließlich Kimwolf, in Verbindung gebracht.