Ein Gesetzentwurf mit weit gefasster Definition – und hohen Strafen
Am 23. September erfolgte eine deutliche Warnung: Senator Bernie Sanders und der Abgeordnete Greg Casar brachten den Ban Artificial Superintelligence Act ein. Der Gesetzentwurf sieht ein ausdrückliches Verbot der Entwicklung oder des Einsatzes superintelligenter KI in den Vereinigten Staaten vor und fordert zugleich eine befristete Pause der fortgeschrittenen KI-Entwicklung, bis eine neue Bundesbehörde Regeln aufstellen kann.
Die vorgeschlagene Gesetzgebung würde ein Department of Artificial Intelligence auf Kabinettsebene schaffen, das Frontier-Modelle überwacht und die Entfernung gefährlicher Fähigkeiten wie das Ignorieren von Abschaltbefehlen beaufsichtigt. Die Strafen sind hart: Einzelpersonen drohen bis zu 20 Jahre Haft, und Unternehmen riskieren die „Todesstrafe für Unternehmen“ – die unfreiwillige gerichtliche Auflösung.
Diese weit gefasste Definition von Superintelligenz – KI, die die kognitive Leistung des Menschen in den meisten Bereichen übertrifft oder die Menschheit entmachten kann – ist entscheidend. Ein so breiter Anwendungsbereich könnte Systeme einschließen, die viele als AGI bezeichnen würden, und Streit über Benchmarks und Durchsetzung nach sich ziehen. Das ist keine Randidee: Nachdem die Demokraten bei den Zwischenwahlen sowohl das Repräsentantenhaus als auch den Senat gewonnen hatten, erklärten Politiker wie die Abgeordnete Yassamin Ansari ein Verbot künstlicher Superintelligenz zur obersten Priorität.
Warum die RSI-Warnung plötzlich an Zugkraft gewinnt
Plötzlich gewinnt die Gefahr einer Intelligenzexplosion deutlich an Zugkraft. Befürworter des Ban Artificial Superintelligence Act verweisen auf eine aktuelle Bewertung von METR zu Anthropics geheimem Model 4, das Berichten zufolge beschleunigte Forschungszyklen gezeigt habe, wobei die KI selbst zu einer nahezu doppelt so hohen Entwicklungsgeschwindigkeit beigetragen habe. Entscheidende Belege für diese Aussagen wurden jedoch Berichten zufolge geschwärzt, sodass die Öffentlichkeit die alarmierendsten Zahlen nicht überprüfen kann.
Diese rasche Beschleunigung nährt Bedenken hinsichtlich rekursiver Selbstverbesserung (RSI), definiert als KI-Systeme, die autonom leistungsfähigere Nachfolge-KIs entwickeln. Entscheidend ist: RSI beschreibt einen Prozess der Entwicklung und unterscheidet sich von AGI (Fähigkeiten auf menschlichem Niveau) oder Superintelligenz (Fähigkeiten jenseits des Menschen), die Maßstäbe für die letztliche Leistungsfähigkeit einer KI sind. Die Sorge gilt nicht nur klügerer KI, sondern dem Wie ihrer Weiterentwicklung.
Das Sicherheitsproblem ist gravierend: Wenn KI mehr von ihrer eigenen Forschung automatisiert, könnte menschliche Aufsicht schnell überflüssig werden. Fehler oder eine grundlegende Fehlausrichtung früher KI-Generationen könnten sich exponentiell verstärken und eine Kaskade unbeabsichtigter Folgen auslösen, schneller, als menschliche Überprüfung oder Eingriffe Schritt halten könnten. Diese Rückkopplungsschleife könnte wichtige Sicherheitsprüfungen umgehen und zu einem Kontrollverlust führen.
Der Abgeordnete Greg Casar, Mitautor des vorgeschlagenen Gesetzes, griff die wachsende Stimmung kürzlich mit zwei deutlichen Worten auf: „Ban RSI.“ Dieser Aufruf zu einem Verbot von KI, die Nachfolge-KI entwickelt, markiert eine bedeutende Verschiebung und macht aus einem Nischenthema eine zentrale gesetzgeberische Debatte. Der METR-Bericht lieferte trotz seiner Schwärzungen den Anstoß und deutet auf eine Zukunft hin, in der der KI-Fortschritt das menschliche Verständnis und die menschliche Kontrolle übersteigt und eine sofortige, drastische Reaktion verlangt.
Die ungewöhnliche Koalition – und das Argument für eine gezieltere Bremse
Rund um die Forderungen nach KI-Beschränkungen hat sich ein ungewöhnliches Bündnis gebildet, das so unterschiedliche Persönlichkeiten wie Bernie Sanders, Glenn Beck und Ralph Nader vereint. Alle werden in einem aktuellen Video zitiert, das sich für Beschränkungen der Recursive Self-Improvement (RSI) (rekursive Selbstverbesserung) ausspricht. Zwar befürworten nicht alle ein vollständiges Verbot, doch diese ungewöhnliche Koalition unterstreicht eine gemeinsame Sorge vor unkontrollierter KI-Autonomie. Weiteren Kontext zur Gesetzesinitiative finden Sie hier: Sen. Bernie Sanders unveils bill to ban artificial superintelligence and create Department of AI.
Das stärkste Argument für eine gezieltere Bremse richtet sich gegen vollständig automatisierte KI-Forschungsschleifen. Statt eines pauschalen Stopps der fortgeschrittenen Entwicklung plädieren Befürworter für eine verpflichtende menschliche Überprüfung an kritischen Punkten oder für strikte Grenzen dafür, dass KI die nächste KI-Generation entwirft. Dieser Ansatz soll die „Vervielfachung“ von Fehlern oder Fehlausrichtungen eindämmen, die bei ungebremster RSI entstehen könnte.
Kritiker warnen jedoch, die Bedrohung durch RSI könnte überbewertet oder technisch schwer zu definieren sein. Vage Fähigkeitsschwellen, wie sie im Ban Artificial Superintelligence Act vorkommen, könnten zu willkürlicher Durchsetzung führen und gewöhnliche Forschung unbeabsichtigt unter ein weitreichendes Verbot fallen lassen. Eine präzise Definition von „Superintelligenz“ oder „RSI“ bleibt schwer fassbar, was pauschale Verbote zu einem riskanten Wagnis macht.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Sicherheit im Inland, strategische Interessen im Ausland
Die nationale KI-Politik lässt sich inzwischen nicht mehr von lokalen Anliegen trennen. Wähler nannten in einer deutlichen Verschiebung KI und die Auswirkungen von Rechenzentren (Energie, Wasser, Netzbelastung, Verdrängung von Arbeitskräften) als wichtigen Faktor bei den Zwischenwahlen. Umfragen zufolge hielten 56 % der Wähler diese Themen für entscheidend, was Forderungen nach Moratorien für neue Rechenzentren und für die Entwicklung fortgeschrittener KI antreibt.
Dieses innenpolitische Sicherheitsstreben stößt auf eine harte geopolitische Realität. Eine einseitige Pause der USA birgt, so gut sie gemeint sein mag, das Risiko, die technische Führungsrolle und die Macht, Standards zu setzen, an Rivalen abzugeben, insbesondere an China. Ohne verifizierte internationale Koordination könnte ein inländisches Verbot Investitionen und Innovation lediglich verlagern und damit seinen strategischen Zweck untergraben.
Der politische Zielkonflikt ist gravierend: Glaubwürdige Aufsicht und klare Schwellenwerte könnten sich als tragfähiger erweisen als ein pauschales Verbot. Dennoch bleibt die schwierige Frage, wie solche Maßnahmen umgesetzt werden können, bevor Systeme wie Anthropics Model 4 mit seiner berichteten rekursiven Selbstverbesserung die regulatorische Prüfung und die menschliche Kontrolle überholen.
Häufig gestellte Fragen
Was würde der vorgeschlagene Ban Artificial Superintelligence Act bewirken?
Laut dem Quellmaterial würde das Gesetz die Entwicklung oder den Einsatz superintelligenter KI verbieten, die Entwicklung fortgeschrittener KI bis zum Erlass bundesweiter Regeln aussetzen und ein neues Aufsichtsministerium einrichten.
Was ist rekursive Selbstverbesserung bei KI?
Rekursive Selbstverbesserung ist ein Prozess, bei dem KI-Systeme dabei helfen, Nachfolgesysteme zu erforschen oder zu entwickeln. Dadurch könnte sich die Entwicklung beschleunigen, bei geringerer menschlicher Beteiligung.
Würde der Vorschlag jede KI verbieten?
Nicht wie beschrieben: Der Vorschlag zielt auf Superintelligenz ab und würde bestimmte fortgeschrittene KI-Entwicklungen aussetzen. Kritiker wenden jedoch ein, dass die weit gefassten Definitionen auch universell einsetzbare Systeme erfassen könnten.
Warum sagen Kritiker, eine amerikanische KI-Pause könnte China nutzen?
Sie argumentieren, dass ohne durchsetzbare internationale Abkommen eine Pause in den USA heimische Labore ausbremsen könnte, während Wettbewerber weiterhin Modelle entwickeln und globale Standards setzen.