Anthropic ist gerade zum Staatsfeind Nr. 1 der KI geworden

In der knallharten Welt der künstlichen Intelligenz hat sich gerade ein beispielloses Bündnis gebildet, das erbitterte Rivalen gegen einen gemeinsamen Feind vereint. Über 235 Unternehmen und Organisationen, darunter Branchengrößen wie Google, Meta, OpenAI und NVIDIA, haben den Brief „Open Weights and American Artificial Intelligence Leadership“ unterzeichnet. Dieser seltene Moment des Konsenses verteidigte open-weight KI, einen grundlegenden Wandel für den gesamten Sektor.

Doch ein wichtiger Akteur weigerte sich auffällig, beizutreten: Anthropic. Ihre Abwesenheit von dieser historischen Koalition wurde sofort zur größten Nachricht und positionierte das Unternehmen hinter Claude als das einzige führende KI-Labor, das sich gegen eine fast einstimmige Branchenfront stellt. Anthropics Schweigen machte es zum Staatsfeind Nr. 1 der KI, konfrontiert mit Vorwürfen, sein geschlossenes Geschäftsmodell zu schützen.

Im Zentrum dieses Schismas liegt eine entscheidende Unterscheidung darin, wie wir auf Intelligenz zugreifen. Wenn Nutzer mit geschlossenen Modellen wie Claude oder ChatGPT interagieren, mieten sie diese Intelligenz lediglich. Das Erstellerunternehmen besitzt die Server, diktiert die Bedingungen und kann den Zugriff nach Belieben widerrufen, wodurch die Nutzer in seinem Ökosystem gefangen sind.

Open-weight-Modelle bieten echtes Eigentum. Entwickler laden ihre gelernten numerischen Parameter herunter, betreiben die Modelle auf ihrer eigenen Infrastruktur, passen sie an und untersuchen ihre inneren Abläufe, ohne eine Erlaubnis zu benötigen. Dies verschafft Unternehmen Unabhängigkeit und fördert Innovationen jenseits von unternehmerischen Schranken:

• Krankenhäuser verwalten sensible Daten vor Ort (on-premises).
• Universitäten führen Forschung ohne Gebühren pro Anfrage durch.
• Startups entwickeln Produkte frei von einer dauerhaften Abhängigkeit von einem einzigen Anbieter.

Der Vorwurf gegen Anthropic ist direkt: Ihre hochtrabenden Appelle an die KI-Sicherheit dienen als bequeme Nebelkerze. Kritiker behaupten, diese Bedenken seien ein kalkuliertes Manöver, um günstigere, zugänglichere open-weight-Alternativen zu behindern, die ihr lukratives, geschlossenes Geschäftsmodell bedrohen. Hier geht es nicht um den Schutz der Menschheit, sondern um den Schutz von Marktanteilen.

Der Risikokapitalgeber David Sacks nahm kein Blatt vor den Mund. Er warnte, Anthropic ziele darauf ab, Open Source zu „knebeln“ und eine regulatorische Vereinnahmung zu orchestrieren, um seinen Wettbewerbsvorteil zu festigen. Die Branche, so argumentierte er, müsse das Unternehmen „wie ein Falke“ beobachten, damit es nicht unter dem Deckmantel einer verantwortungsvollen KI-Entwicklung den Markt monopolisiert.

Chinas Kimi K3-Modell veranschaulicht dieses Albtraumszenario für geschlossene Labore anschaulich. Das von Moonshot Artificial Intelligence entwickelte, leistungsstarke Open-Weight-Release von Kimi K3 schockierte das Silicon Valley. Dieses Modell, das fast dem neuesten Stand der Technik entspricht und kostenlos verfügbar ist, vernichtet die Knappheitsprämie, die es Unternehmen wie Anthropic ermöglicht, exorbitante Preise für proprietären Zugang zu verlangen.

Ein Konkurrent, der ein erstklassiges Modell veröffentlicht, das Entwickler herunterladen und anpassen können, zerstört das Fundament der Preismacht eines geschlossenen Systems. Diese wirtschaftliche Realität schürt den Verdacht, dass es bei Anthropics Sicherheitsgehabe weniger um echte Risikominderung geht, als vielmehr darum, einen undurchdringlichen Burggraben um seine kommerziellen Interessen zu errichten.

Anthropic CEO Dario Amodei betont, dass sein Unternehmen niemals ein pauschales Verbot von open-weight models gefordert habe. Er setzt sich für offene Modelle ein, denen „gefährliche Fähigkeiten“ fehlen, als ein wichtiges öffentliches Gut, das Entwicklern und Forschern gleichermaßen zugutekommt. Amodeis Hauptsorge gilt jedoch den katastrophalen, irreversiblen Risiken zukünftiger, extrem leistungsfähiger Systeme, was die Weigerung von Anthropic erklärt, den branchenweiten Brief Open Weights and American AI Leadership nicht zu unterzeichnen. Er ist der Ansicht, dass dieses Dokument „gefährliche Annahmen“ über die Auswirkungen der weiten Verfügbarkeit solcher leistungsstarken Modelle zum Download trifft.

Amodei beschreibt zwei erschreckende Albtraumszenarien. Erstens könnte eine autoritäre Regierung durch KI, die leistungsfähiger ist als amerikanische Systeme, militärische Überlegenheit, Massenüberwachung oder dauerhafte Unterdrückung erreichen. Zweitens könnte ein ausreichend potentes Modell weit verbreitete Cyberangriffe oder die Erstellung von biological weapons ermöglichen.

Um diese Risiken zu mindern, schlägt Anthropic „gezielte Regulierungen“ vor. Dazu gehören:

• Einschränkung des Verkaufs fortschrittlicher Chips nach China
• Vorgehen gegen das Kopieren von Modellen im industriellen Maßstab
• Einführung verbindlicher Sicherheitstests für Frontier AI-Systeme

Kritiker argumentieren jedoch, dass diese Maßnahmen den open-source competition effektiv ersticken würden. Sie behaupten, die Vorschläge würden prohibitive Kosten verursachen und eine lähmende rechtliche Unsicherheit einführen, was nur gut ausgestatteten Entwicklern geschlossener Modelle wie Anthropic zugutekommt.

Dies ist der zentrale Kampf um die Zukunft der KI: Wird Intelligenz von wenigen rechenschaftspflichtigen Unternehmen kontrolliert oder so verteilt, dass jeder sie besitzen, anpassen und überprüfen kann? Diese tiefgreifende Frage definiert die kommende Ära und stellt die zentralisierte Unternehmenskontrolle der radikalen Transparenz und dezentralen Befähigung durch open weights gegenüber.

Die aktuelle Position von Anthropic zieht aus der gesamten Branche scharfe Vorwürfe der Heuchelei auf sich. Kritiker erinnern an wahrgenommene frühere Fälle, in denen das Unternehmen für einen besseren Zugang und weniger staatliche Beschränkungen argumentierte, als seine eigenen geschlossenen Modelle unter die Kontrolle der US-Regierung gerieten. Diese Haltung erscheint nun in direktem Widerspruch zu seiner Ablehnung der breiten Open-Source-Veröffentlichung leistungsstarker Modelle, was die Gegenreaktion der Branche gegen das wahrgenommene Eigeninteresse befeuert.

Dario Amodeis Verteidigung konzentriert sich jedoch auf eine wirkungsvolle, wenn auch erschreckende Vision für zukünftige KI. Er argumentiert, dass ein gefährlich fähiges offenes Modell von Natur aus irreversibel ist; seine Gewichte können nach der Veröffentlichung nicht zurückgerufen werden, was eine Eindämmung unmöglich macht. Ein solches System, so befürchtet Amodei, birgt das Risiko von „irreversible catastrophic risks“ durch die leistungsfähigsten zukünftigen Systeme, die möglicherweise weltweit ohne Sicherheitsnetz entfesselt werden.

Die Open-Bewegung hingegen stellt ein ebenso überzeugendes Gegenargument auf: Eine Handvoll Unternehmen sollte nicht die alleinigen gatekeepers of intelligence sein. Sie setzen sich für das Recht eines jeden ein, diese grundlegenden Technologien zu besitzen, anzupassen und zu überprüfen. Diese Verteilung fördert einen robusten Wettbewerb, stellt die Prüfbarkeit durch eine breitere Gemeinschaft sicher und verhindert eine Zukunft, in der die Menschheit ihre kritischsten Fähigkeiten nur noch mietet, was die wahre amerikanische KI-Führungsrolle untergräbt. Der ultimative Preis ist die Kontrolle über die Intelligenz selbst.

Warum ist die KI-Branche plötzlich gegen Anthropic?

Fast jedes große KI-Unternehmen, einschließlich Google, Meta und OpenAI, unterzeichnete einen öffentlichen Brief zur Unterstützung von Open-Weight-KI-Modellen. Anthropic, ein wichtiger Akteur, weigerte sich auffällig zu unterschreiben, was zu Anschuldigungen führte, dass das Unternehmen Sicherheitsbedenken nutzt, um sein geschlossenes, gewinnorientiertes Geschäftsmodell vor Open-Source-Konkurrenz zu schützen.

Was sind Open-Weight-KI-Modelle?

Open-weight-Modelle ermöglichen es Entwicklern, die numerischen Parameter des Modells herunterzuladen. Dies erlaubt es ihnen, die KI auf ihren eigenen Systemen auszuführen, zu untersuchen und anzupassen, unabhängig von der Kontrolle und Preisgestaltung des ursprünglichen Erstellers, im Gegensatz zu geschlossenen Modellen wie ChatGPT oder Claude, auf die als Dienst zugegriffen wird.

Was ist das offizielle Argument von Anthropic gegen die Veröffentlichung leistungsstarker Open-weight-Modelle?

Anthropic-CEO Dario Amodei argumentiert, dass die Veröffentlichung extrem leistungsstarker Modelle unumkehrbar ist und zu katastrophalem Missbrauch führen könnte, wie etwa der Entwicklung von Biowaffen oder der Nutzung durch autoritäre Regime zur militärischen Überlegenheit. Sie schlagen gezielte Regulierungen vor, kein pauschales Verbot.

Was ist industrielle Destillation bei KI?

Destillation ist eine Technik, bei der ein KI-Modell von den Ausgaben eines anderen lernt. Anthropic ist besorgt, dass Konkurrenzunternehmen, insbesondere aus China, diese Technik in großem Maßstab nutzen könnten, um die Fähigkeiten ihrer teuren, proprietären Modelle wie Claude zu einem Bruchteil der Kosten zu kopieren.