Der Bürgerkrieg der KI beginnt

Die US-Regierung hat Anthropic’s fortschrittlichster KI den Stecker gezogen und damit eine beispiellose globale Abschaltung erzwungen. Am späten Freitag erließ das Handelsministerium eine nationale Sicherheitsanweisung, die allen ausländischen Staatsangehörigen – einschließlich Anthropic's eigenen nicht-amerikanischen Mitarbeitern – den Zugriff auf seine Spitzenmodelle Fable 5 und Mythos 5 untersagte. Anthropic, das Nutzer nicht zuverlässig nach Nationalität unterscheiden konnte, hatte keine andere Wahl, als seine Flaggschiff-KIs für jeden Nutzer weltweit zu deaktivieren und sich für die plötzliche Störung zu entschuldigen.

Im Mittelpunkt dieser Krise stehen Anthropic's Dual-Purpose-Modelle. Fable 5 ist die öffentlich zugängliche, abgesicherte KI, ein Modell der „Mythos-Klasse“, das für Softwareentwicklung, Wissensarbeit und wissenschaftliche Forschung konzipiert wurde. Darunter ist Mythos 5 die uneingeschränkte Version in „Munitionsqualität“, speziell entwickelt für fortgeschrittene Cybersicherheitsaufgaben wie die Entdeckung von Schwachstellen und Biodefense-Screening, und verfügt über die weltweit stärksten Cybersicherheitsfähigkeiten.

Die Begründung des Handelsministeriums konzentrierte sich auf eine „Jailbreak“-Methode, die die Schutzmaßnahmen von Fable 5 umgehen und die rohen Cyber-Fähigkeiten von Mythos 5 offenlegen könnte. Anthropic entgegnete, dies sei ein „eng gefasster potenzieller Jailbreak“, der Fähigkeiten nur in einem spezifischen Fall freischalte, nicht ein universeller Fehler. Sie behaupteten weiter, dass ähnliche Techniken auch andere öffentlich verfügbare Modelle ausnutzen könnten, einschließlich OpenAI’s GPT-5.5, die uneingeschränkt bleiben.

Anthropic widerspricht vehement und erklärt, dass der Rückruf eines kommerziellen Modells, das bei Hunderten Millionen Menschen eingesetzt wird, wegen eines „eng gefassten potenziellen Jailbreaks“ einen gefährlichen Präzedenzfall schafft. Ein solcher Standard, so argumentieren sie, würde die Einführung neuer Modelle in der gesamten Frontier-KI-Industrie effektiv stoppen. Diese Maßnahme, so ihre Argumentation, hält sich nicht an die Prinzipien der Transparenz, Fairness und technischen Fundierung.

Sicherheitsbedenken oder politische Vendetta? Das beispiellose Verbot des Handelsministeriums für Anthropic’s fortschrittliche KI-Modelle, Fable 5 und Mythos 5, erfolgt inmitten einer erbitterten Fehde zwischen dem Unternehmen und der Trump-Regierung.

Das Pentagon hatte Anthropic bereits im Februar auf die schwarze Liste gesetzt und es im März als „Lieferkettenrisiko“ eingestuft, weil es Vertragsbedingungen ablehnte, die die Nutzung seiner Modelle für „jeden rechtmäßigen Zweck“, einschließlich autonomer Waffen, erlaubten. Diese jüngste Anweisung scheint ein weiterer Versuch zu sein, das Unternehmen zu bestrafen, das diese Einstufung vor einem Bundesgericht anficht.

Kritiker wie David Sacks, ehemaliger KI- und Krypto-Zar, zögerten nicht, den Schritt als „lawfare“ gegen ein „wokes“ und „linkes“ Unternehmen zu bezeichnen. Sacks hatte Anthropic zuvor einer „ausgeklügelten Strategie zur regulatorischen Vereinnahmung, basierend auf Angstmacherei“ bezichtigt, eine Ansicht, die von Dean Ball geteilt wurde, der die Aktion als „karikaturistische“ nationale Sicherheitshawkerei bezeichnete.

Ironischerweise könnte Anthropic's eigenes Marketing der Regierung ihre Rechtfertigung geliefert haben. Bei der Einführung von Mythos argumentierte das Unternehmen selbst, das Modell sei zu gefährlich für eine breite Veröffentlichung. Als Fable 5 auf den Markt kam, betonte Anthropic seine Schutzmaßnahmen und hob damit unbeabsichtigt genau die Macht hervor, die die Regierung jetzt fürchtet.

Das Handelsministerium zitierte eine „Jailbreak“-Methode, vor der angeblich Amazon CEO Andy Jassy gewarnt hatte, die die Schutzmaßnahmen von Fable 5 umgehen und Mythos’s „stärkste Cybersicherheitsfähigkeiten“ offenlegen könnte. Anthropic’s Rhetorik über potenzielle Gefahren, obwohl dazu gedacht, Verantwortung zu demonstrieren, hat dem Unternehmen vielleicht ein Ziel auf den Rücken gemalt.

Sicherheitsforscher verurteilten das Anthropic-Verbot sofort. Sie argumentieren, dass diese Anweisung mächtige Verteidigungswerkzeuge wie Mythos 5, das für seine „stärksten Cybersicherheitsfähigkeiten aller Modelle weltweit“ gelobt wird, den Händen derer entreißt, die US-Interessen schützen. Der Entzug des Zugangs für Sicherheitsprüfer und Forscher macht die Nation wohl nachweislich anfälliger für Cyberbedrohungen, anstatt sicherer.

Diese interne Entwaffnung steht in starkem Kontrast zu anderen US-Politiken und offenbart eine verwirrende Inkohärenz. Der Politikexperte Dean Ball, ein ehemaliger Beamter der Trump administration, hinterfragt offen, wie die Administration es rechtfertigen kann, ihren Verbündeten die besten Modelle vorzuenthalten, während sie gleichzeitig den Export von fortschrittlichen KI-Chips nach China erlaubt. „Karikaturhaft“ war seine Einschätzung – eine passende Beschreibung für eine so widersprüchliche Haltung.

Am verheerendsten ist vielleicht der Präzedenzfall, den diese Maßnahme schafft. Anthropic selbst warnte, dass der Rückruf eines kommerziellen Modells wegen eines „engen potenziellen Jailbreaks“ – einer einzelnen Umgehungstechnik – effektiv „alle neuen Modellbereitstellungen für alle Frontier-Modellanbieter stoppen“ würde. Dies fordert einen unrealistischen, unerreichbaren Perfektionsstandard von aufstrebender, leistungsstarker KI und erstickt Innovation, bevor sie überhaupt beginnen kann. Weitere Details zur Unternehmensperspektive finden Sie unter Home | Anthropic.

Amerikas KI-Führungsrolle hat gerade einen direkten Treffer erlitten. Die beispiellose Anweisung des Commerce Department, die Anthropic dazu zwingt, seine Modelle Fable 5 und Mythos 5 weltweit zu deaktivieren, signalisiert eine beängstigende neue Realität für die US-Innovation. Ausländische Staatsangehörige, denen der Zugang zu diesen Frontier-Modellen selbst bei Aufenthalt in den U.S. ausdrücklich verwehrt wird, haben nun einen triftigen Grund, ihre Karriere hier zu überdenken. Warum sollte das weltweit führende KI-Talent ein Land wählen, in dem ihr Zugang zu Spitzentechnologien über Nacht verschwinden kann, einfach durch Regierungsbeschluss?

Das Investorenvertrauen, das bereits nach der Schwarze-Liste-Eintragung von Anthropic durch das Pentagon brüchig war, wird nun zerbrechen. Ein Unternehmen, das mit 965 Milliarden US-Dollar bewertet wird und kurz vor einem IPO steht, sah seine fortschrittlichsten Produkte durch Regierungsbeschluss nutzlos gemacht. Diese willkürliche Intervention macht amerikanische KI-Firmen zu einem weitaus riskanteren Unterfangen und erschüttert das Fundament zukünftiger Investitionen.

Diese protektionistische Übertreibung verschafft internationalen Wettbewerbern einen massiven Vorteil. Frankreichs Mistral AI erscheint plötzlich als stabileres, attraktiveres Ziel für globales Talent und Investitionen, unbelastet von solchen regulatorischen Launen. Gleichzeitig steigt die Attraktivität chinesischer Open-Source-Modelle sprunghaft an, was möglicherweise genau das technologische Terrain preisgibt, das America zu verteidigen vorgibt, und rivalisierende Ökosysteme fördert.

Letztendlich wird ein abschreckender Effekt die gesamte Branche erfassen. Unternehmen werden unweigerlich zu weniger ehrgeizigen, „sichereren“ KI-Projekten übergehen, die unwahrscheinlich einen staatlichen Not-Aus-Schalter auslösen. Wenn ein führender KI-Anbieter einer solch sofortigen, weitreichenden Störung gegenübersteht, nimmt der Anreiz, Grenzen zu überschreiten, für alle ab, was sicherstellt, dass America im globalen KI-Wettlauf zurückfällt.

Welche Anthropic-Modelle wurden deaktiviert?

Anthropic war gezwungen, Fable 5, sein fortschrittlichstes öffentlich verfügbares Modell, und Mythos 5, das zugrunde liegende Modell mit leistungsstarken, uneingeschränkten Cybersicherheitsfunktionen, zu deaktivieren.

Warum hat die US-Regierung die Modelle von Anthropic verboten?

Das Commerce Department nannte nationale Sicherheitsbedenken, die Berichten zufolge durch die Entdeckung eines 'Jailbreaks' ausgelöst wurden, der die Schutzmaßnahmen von Fable 5 umgehen und die vollen Cyber-Offensivfähigkeiten des Mythos 5-Modells freischalten könnte.

Betrifft dieses Verbot andere Anthropic-Modelle wie Claude?

Nein, die Exportkontrollrichtlinie zielt speziell auf Fable 5 und Mythos 5 ab. Der Zugang zu Anthropic's Claude-Modellfamilie, einschließlich Claude Opus 4.8, ist von dieser Maßnahme nicht betroffen.

Was ist die 'Deemed-Export'-Regel?

Die 'Deemed-Export'-Regel behandelt die Übertragung kontrollierter Technologie oder Quellcodes an einen ausländischen Staatsangehörigen innerhalb der U.S. als Export in dessen Heimatland, weshalb das Verbot selbst für Anthropic's nicht-amerikanische Mitarbeiter gilt.