Anthropic's Billionen-Dollar-Warnung

Dario Amodei, CEO von Anthropic, hat eine drastische Warnung ausgesprochen: Freiwillige AI-Sicherheit ist eine gefährliche Illusion. Er fordert nichts weniger als verbindliche staatliche Intervention und stellt sich eine Regulierungsbehörde vor, die die Befugnis hat, die Bereitstellung unsicherer Modelle direkt zu blockieren. Dies ist kein Plädoyer für eine sanfte Aufsicht; es ist ein Ruf nach einer AI Federal Aviation Administration (FAA), die befugt ist, Sicherheitsstandards mit der vollen Autorität des Gesetzes durchzusetzen, weit über bloße Transparenz oder Selbstverwaltung hinaus.

Man bedenke die Kühnheit: Ein führender Kopf im gnadenlosen AI-Wettlauf setzt sich aktiv für einen Schiedsrichter ein, der sein eigenes Unternehmen bremsen soll. In einem exklusiven Interview bezeichnete Amodei dies nicht als Wahl, sondern als verzweifelte Notwendigkeit. Er räumt ein, dass die Verantwortung bei den Entwicklern liegt, besteht jedoch darauf, dass der exponentielle AI-Fortschritt die bestehenden Schutzmaßnahmen überholt hat und Risiken schafft, die nur durch externe, autoritative Intervention gemindert werden können. Dieser beispiellose Appell offenbart ein tiefes Unbehagen in den höchsten Rängen der Branche.

Amodeis Vorschlag ist konkret, nicht abstrakt. Er zielt auf „Grenzmodelle“ ab – AI-Systeme, die mit mehr als 10^25 Floating-Point Operations (FLOPs) trainiert wurden – als spezifischen Auslöser für diese strenge Aufsicht. Die Claude Mythos Preview seines eigenen Unternehmens, die Tausende von Software-Schwachstellen aufdeckte, diente als Wendepunkt und demonstrierte die unmittelbaren, greifbaren Gefahren unkontrollierter AI. Dies ist kein theoretisches Lamentieren; es ist eine direkte Reaktion auf bereits beobachtete Fähigkeiten.

Der Moment, in dem Anthropic’s CEO Dario Amodei das Ausmaß der latenten Kraft von AI wirklich verstand, war nicht theoretisch; er wurde intern entwickelt. Claude Mythos, ein großes Sprachmodell, das entwickelt wurde, um Software-Schwachstellen zu finden, wurde zu Anthropic’s erschreckendem Weckruf. Während der Tests nutzte Mythos Tausende von Fehlern und Defekten in wichtigen Betriebssystemen und Browsern aus und demonstrierte eine Cyber-Offensivfähigkeit weit über die Erwartungen hinaus.

Diese interne Demonstration potenter, Dual-Use AI-Fähigkeiten führte bei Amodei schnell zu geopolitischen Ängsten. Er misstraut China explizit und fragt: „Stellen Sie sich vor, China hätte Mythos gebaut?“ Er stellte sich vor, wie Gegner ein solches Werkzeug einsetzen könnten, um die U.S. anzugreifen oder zu unterstützen: - Russland in der Ukraine - Iran - Nordkorea

Die Macht des Modells, die bei Anthropic verblieb, verdeutlichte die erschreckenden Möglichkeiten, wenn eine solche Technologie in feindliche Hände fiele.

Mythos, nie öffentlich veröffentlicht, verlagerte den internen Diskurs bei Anthropic unwiderruflich. Katastrophale AI-Risiken waren nicht länger abstrakt; sie waren greifbar, demonstriert und vom Unternehmen selbst geschaffen worden. Diese direkte Begegnung mit einer unmittelbaren, selbst erzeugten Bedrohung festigte Amodeis Überzeugung, dass freiwillige Sicherheitsmaßnahmen unzureichend sind und eine robuste, FAA-ähnliche globale Regulierung erfordern.

Amodei sorgt sich nicht nur um die existenziellen Bedrohungen durch AI; er ist gleichermaßen besorgt über deren wirtschaftliche Folgen. Seine Vorschläge zur Minderung von Arbeitsmarktstörungen reichen von pragmatischen kurzfristigen Lösungen bis hin zu wirklich radikalen langfristigen Umgestaltungen. Hier geht es nicht nur um Arbeitsplatzverlagerung; es geht um eine grundlegende Verschiebung, wie wir menschliche Arbeit bewerten.

In naher Zukunft schlägt Amodei staatliche Interventionen wie Lohnrückversicherung, Bleibeanreize zur Vermeidung von Entlassungen und Verbesserungen der Arbeitslosenversicherung vor. Diese Maßnahmen sollen einen, wie er es nennt, „holprigen, aber relativ normalen Übergang“ glätten. Doch das „Normale“ könnte vorbei sein; auf lange Sicht befürwortet er kühnere Konzepte wie das bedingungslose Grundeinkommen (UBI) oder universelle Kapitalkonten.

Die Finanzierung solch umfassender sozialer Sicherungssysteme erfordert ein ebenso mutiges Denken. Amodei schlägt explizit vor, Kapitalertragssteuern zu erhöhen, direkte Steuern für AI-Unternehmen einzuführen oder die Körperschaftssteuer generell zu erhöhen. Dies sind keine bescheidenen Anpassungen; sie stellen eine grundlegende Umverteilung des durch den AI-Boom generierten Reichtums dar. Weitere Informationen zu diesen Politikbereichen finden Sie in der detaillierten Policy on the AI Exponential - Anthropic.

Anthropic redet nicht nur. Das Unternehmen hat beträchtliche 350 Millionen US-Dollar bereitgestellt, um die wirtschaftlichen Auswirkungen von AI anzugehen, einschließlich eines speziellen Economic Futures Research Fund. Diese Investition positioniert Anthropic klar als Unternehmen, das seinen Worten Taten folgen lässt, indem es aktiv die Auswirkungen von AI auf Arbeitsplätze erforscht und potenzielle politische Lösungen erprobt.

Amodeis leidenschaftlicher Appell für staatliche Intervention, obwohl als Gebot der öffentlichen Sicherheit dargestellt, hat einen deutlichen Beigeschmack strategischer Manöver. Sein Vorschlag für eine FAA-ähnliche Regulierung, die der Regierung die Befugnis gäbe, unsichere AI-Modelle zu blockieren, würde monumentale Compliance-Kosten verursachen. Hier geht es nicht nur um Sicherheit; es ist ein potenzieller Marktstillstand, der eine unüberwindbare Barriere für aufstrebende AI-Startups schafft und einen strategischen Graben für gut kapitalisierte Akteure wie Anthropic festigt, die bereits über robuste Sicherheitsrahmen und erhebliche F&E-Investitionen verfügen, einschließlich der 350 Millionen US-Dollar, die zur Bewältigung der wirtschaftlichen Störungen durch AI zugesagt wurden.

Diese Vision steht in scharfem Kontrast zur aktuellen amerikanischen Realität. Die Regierung von Präsident Trump bevorzugte einen „Light-Touch“-Ansatz bei der AI-Governance, was zu einer fragmentierten Regulierungslandschaft führte. Amodei fordert eine beispiellose Bundesgewalt, um die Bereitstellung zu stoppen, was weit entfernt ist vom heutigen Flickenteppich aus neuen Landesgesetzen und freiwilligen Richtlinien.

Letztendlich ist Anthropic's 'Safety-First'-Marke ein kluger Wettbewerbsvorteil. Gegenüber Rivalen wie OpenAI und Google positioniert diese Erzählung Anthropic als verantwortungsbewussten Verwalter fortschrittlicher AI. Da das Unternehmen einen massiven Börsengang (IPO) anstrebt, ist diese prinzipielle Haltung nicht nur altruistisch; sie ist ein mächtiger Vorteil, der Investoren und Kunden anzieht, die ethische Entwicklung in einem sich schnell entwickelnden, risikoreichen Markt priorisieren.

Warum fordert der CEO von Anthropic eine AI-Regulierung?

Dario Amodei glaubt, dass AI so schnell voranschreitet, dass sie katastrophale Risiken birgt, wie die Ermöglichung von Biowaffen oder groß angelegten Cyberangriffen, die freiwillige Industriemaßnahmen nicht eindämmen können.

Was ist das von Amodei vorgeschlagene 'FAA für AI'-Modell?

Er schlägt eine Regierungsbehörde vor, die die Befugnis hat, obligatorische technische Tests durchzuführen und die Bereitstellung von 'frontier AI models' zu blockieren, die als inakzeptabel gefährlich eingestuft werden, ähnlich wie die FAA die Flugsicherheit reguliert.

Was ist Claude Mythos und warum ist es bedeutsam?

Claude Mythos ist ein Anthropic AI-Modell, das entwickelt wurde, um Software-Schwachstellen zu finden. Seine Fähigkeit, Tausende kritischer Fehler zu entdecken, überzeugte Amodei, dass solch mächtige Werkzeuge eine globale Regulierung erfordern, um Missbrauch durch böswillige Akteure zu verhindern.

Wie schlägt Amodei vor, mit den Auswirkungen von AI auf Arbeitsplätze umzugehen?

Er schlägt kurzfristige staatliche Unterstützung wie Lohnrückversicherung und verbesserte Arbeitslosenunterstützung sowie langfristige Ideen wie ein bedingungsloses Grundeinkommen vor, das durch neue Steuern auf AI-Unternehmen oder Kapitalerträge finanziert wird.