KI hat gerade begonnen, sich selbst zu verbessern

Künstliche Intelligenz nähert sich nun der rekursiven Selbstverbesserung (RSI). Matthew Berman beschreibt dies als KI, die autonom neues Wissen entdeckt – sogar in der Mathematik –, um ihre Fähigkeiten ohne menschliches Eingreifen zu erweitern. Sie schlägt Experimente vor, führt sie aus, unterscheidet Erfolge von Misserfolgen und iteriert unermüdlich, wodurch sie ihre eigene Evolution beschleunigt.

Diese aufkommende Fähigkeit erinnert direkt an das Konzept der „Intelligenzexplosion“. I.J. Good formulierte dies erstmals 1965 und stellte die Hypothese auf, dass eine Maschine eine intelligentere entwerfen könnte, was eine exponentielle Kaskade der Selbstverbesserung auslösen würde. Nick Bostrom formalisierte dieses Konzept später in Superintelligence.

Was einst ein philosophisches Gedankenexperiment war, ist zu einer unmittelbaren technischen Herausforderung geworden: Superintelligence. Im September 2026 warnte OpenAI-Chefwissenschaftler Jakub Pachocki, dass potenzielle RSI „äußerste Vorsicht erfordert“, und betonte, dass „niemand auf die Konsequenzen vorbereitet ist“. Evan Hubinger von Anthropic äußerte gleichzeitig seine Überzeugung, dass „KI alle Menschen töten könnte“, schätzte die Wahrscheinlichkeit für das nächste Jahrzehnt auf über 10 % und gab zu, dass Anthropic keinen Plan zur Ausrichtung (Alignment) hat.

Jacob Coxon, ein weiterer Forscher bei Anthropic, trat im selben Monat aus Sicherheitsgründen zurück und beschuldigte Unternehmen, „direkt auf eine sich selbst verbessernde Superintelligenz zuzurasen und mit unserem Leben zu spielen“. Sam Altman, CEO von OpenAI, sagte im Juni 2025 voraus, dass KI-Agenten bis 2026 autonome wissenschaftliche Partner werden würden, die ein Jahrzehnt Forschung in ein einziges Jahr komprimieren. Die Intelligenzexplosion ist keine ferne Zukunft mehr, sondern eine drohende Gegenwart.

KI beschleunigt ihre eigene Entwicklung bereits massiv, selbst ohne volle Autonomie erreicht zu haben. Anthropic berichtet beispielsweise, dass ihre KI, Claude, mittlerweile über 80 % ihres Codes schreibt. Diese dramatische Integration führt zu einer achtfachen Produktivitätssteigerung für ihre Ingenieure.

Dieser Trend erstreckt sich über die gesamte Branche. OpenAI formuliert offen interne Ziele für die Entwicklung eines „automatisierten KI-Forschungspraktikanten“. Ein solches System würde unabhängig Experimente durchführen, Ergebnisse analysieren und Verbesserungen für KI-Modelle vorschlagen, was einen klaren Weg in Richtung autonomer Entwicklung in Forschungslaboren signalisiert.

Dieser aktuelle Zustand stellt eine „RSI-nahe“ Phase dar, die sich von der vollständig autonomen rekursiven Selbstverbesserung unterscheidet, die Matthew Berman beschreibt. Während die KI noch nicht ohne jegliche menschliche Aufsicht Wissen entdeckt und ihre eigene Kernarchitektur umschreibt, bildet sie eine mächtige Feedbackschleife. Hier beschleunigt die KI ihre eigene Evolution materiell, während sie unter menschlicher Aufsicht und strategischer Leitung arbeitet.

Diese KI-Tools fungieren als Kraftverstärker, die menschliche Entwickler befähigen, schneller zu iterieren und komplexere architektonische Änderungen zu erforschen. Die KI unterstützt ihre eigene Verfeinerung und beschleunigt das Tempo von Entdeckung und Implementierung in der gesamten KI-Landschaft. Diese symbiotische Beziehung verschiebt die Grenzen dessen, was KI erreichen kann.

KI demonstriert nun beispiellose Fähigkeiten in der reinen Mathematik. Systeme haben begonnen, komplexe Probleme der Internationalen Mathematik-Olympiade zu lösen und die Schranke der Riemannschen Zeta-Funktion maßgeblich verbessert, was grundlegende Beiträge zur Zahlentheorie darstellt. Diese Errungenschaften unterstreichen die wachsende Kapazität der KI für abstraktes Denken und neuartige Entdeckungen.

In der angewandten Wissenschaft ist der Einfluss von KI ebenso tiefgreifend. Google DeepMinds AlphaEvolve entdeckte beispielsweise einen neuartigen Matrix-Multiplikationsalgorithmus, eine grundlegende Berechnung für die KI selbst, und brach damit einen 56 Jahre alten Rekord. Dies zeigt die Fähigkeit der KI, grundlegende Rechenprozesse weit über die menschliche Intuition hinaus zu optimieren.

Der vielleicht bedeutendste Meilenstein kam mit Sakana AIs "The AI Scientist". Dieses System führte nicht nur Forschung durch, sondern seine Ergebnisse wurden auch in Nature veröffentlicht, einer hochselektiven, von Experten begutachteten Fachzeitschrift. Dies beweist, dass KI den gesamten wissenschaftlichen Prozess – von der Hypothesengenerierung über das experimentelle Design bis hin zur Veröffentlichung – ohne menschliches Eingreifen bewältigen kann. Weitere Einblicke in die sich entwickelnde Rolle der KI bei ihrer eigenen Entwicklung finden Sie unter When AI builds itself. Dies markiert einen entscheidenden Wendepunkt, an dem KI zu einer autonomen Entdeckungsmaschine wird.

Hubinger, Leiter der Alignment Science bei Anthropic, gab im September 2026 eine eindringliche Warnung ab: Er und seine Kollegen "glauben ernsthaft, dass KI alle Menschen töten könnte", wobei sie die Wahrscheinlichkeit innerhalb des nächsten Jahrzehnts auf über 10 % schätzen und einräumen, dass Anthropic keinen klaren Plan für das "Alignment für Superintelligenz" hat. Jacob Coxon, ein weiterer Anthropic-Forscher, trat im selben Monat aus Sicherheitsbedenken zurück und warf Unternehmen vor, "direkt auf eine sich selbst verbessernde Superintelligenz zuzusteuern und mit unserem Leben zu spielen".

Diese düstere Aussicht entspringt dem zentralen Alignment-Problem: Sicherzustellen, dass eine KI, die sich radikal selbst verbessern kann, weiterhin Ziele verfolgt, die der Menschheit nützen. Mit jeder selbstgesteuerten Iteration könnten die interne Logik und die Ziele einer KI abdriften, was es exponentiell schwieriger macht, zu garantieren, dass ihre zukünftigen Handlungen weiterhin abgestimmt bleiben, insbesondere wenn ihre Intelligenz das menschliche Verständnis übersteigt.

OpenAI-Chef-Wissenschaftler Jakub Pachocki schloss sich diesen Bedenken im September 2026 an und warnte, dass die potenzielle Unmittelbarkeit der rekursiven Selbstverbesserung "eine Zeit ist, die äußerste Vorsicht erfordert", und fügte hinzu, dass "niemand auf die Konsequenzen eines anhaltend schnellen Anstiegs der Maschinenintelligenz vorbereitet ist". Diese dringenden Warnungen verstärken die wachsenden Forderungen nach einer globalen Pause und stellen ein kritisches, sich schnell schließendes Zeitfenster dar, um robuste Sicherheitsvorkehrungen zu etablieren, bevor die rekursive Schleife unkontrollierbar wird und ein definitives existentielles Risiko darstellt.

Was ist rekursive Selbstverbesserung (RSI) bei KI?

RSI liegt vor, wenn ein KI-System zur Verbesserung von KI-Fähigkeiten beiträgt, einschließlich seiner eigenen, wodurch eine sich verstärkende Verbesserungsschleife entsteht. Dies reicht von KI, die menschliche Entwickler unterstützt, bis hin zu einer hypothetischen, voll autonomen KI, die ihre eigenen Upgrades entwirft.

Ist eine voll autonome, sich selbst verbessernde KI bereits Realität?

Noch nicht. Voll autonome RSI, bei der eine KI ihren eigenen Code ohne menschliche Aufsicht umschreibt, ist noch theoretisch. KI beschleunigt jedoch bereits unter menschlicher Aufsicht die Entwicklung neuer KI-Systeme erheblich.

Warum sind führende KI-Forscher so besorgt über RSI?

Experten befürchten, dass eine schnelle, rekursive Intelligenzexplosion zu KI-Systemen führen könnte, die die menschliche Kontrolle und das menschliche Verständnis übersteigen. Sicherzustellen, dass solche Systeme mit menschlichen Werten im Einklang bleiben, ist eine große ungelöste Herausforderung.

Was sind einige Beispiele aus der Praxis für KI-gestützte KI-Entwicklung?

Anthropic berichtet, dass ihre KI, Claude, mittlerweile über 80 % ihres neuen Codes schreibt. Googles AlphaEvolve hat autonom neue Algorithmen entdeckt. Dies sind konkrete Schritte auf dem Weg zur vollständigen RSI.