Der AGI-Übergang beginnt jetzt
Google DeepMind hat unmissverständlich erklärt, dass der AGI-Übergang jetzt beginnt und nicht irgendwann in einer nebulösen Zukunft. Das weltweit führende KI-Labor hat seine rein theoretische Suche nach der „Lösung der Intelligenz“ hinter sich gelassen und ein permanentes AGI Institute gegründet – ein entscheidender Schritt hin zur praktischen Vorbereitung auf die bevorstehende Ankunft von KI auf menschlichem Niveau. Dies ist nicht nur ein unternehmerisches Rebranding, sondern eine institutionelle Neuausrichtung.
Die Gründer Demis Hassabis und Chief AGI Scientist Shane Legg sprechen mit erstaunlicher Klarheit. Sie erklären ausdrücklich, dass der „Übergang beginnt“ und die Gesellschaft sich auf eine veränderte Landschaft vorbereiten muss, einschließlich:
- Verbreitung von KI-Agenten
- Eskalierende Cyber- und biologische Risiken
- Das Potenzial für Kontrollverlust durch zukünftige, sich selbst verbessernde Systeme
Dieser Schritt geht über ein bloßes Produktupdate oder einen Blogbeitrag über ein neues Gemini-Modell hinaus. Das DeepMind Institute, das Forscher von Google, DeepMind und aus der Wissenschaft vereint, fungiert als tiefgreifendes institutionelles Signal. Es sendet die Botschaft aus, dass die letzte, kritische Phase des AGI-Wettlaufs völlig neue Regeln, eine umfassende Governance und dringendes öffentliches Engagement erfordert. Die Botschaft ist klar: Die fortschrittlichsten KI-Denker der Welt glauben, dass die Zukunft nicht mehr theoretisch ist – sie ist jetzt.
Die Deadline 2028 und ihre Scorecard
Chief AGI Scientist Shane Legg, der dazu beigetragen hat, den Begriff AGI populär zu machen, bleibt bei seiner kühnen Vorhersage: eine 50-prozentige Chance auf 'minimal AGI' bis 2028. Dies ist kein ferner theoretischer Horizont; 2028 ist nur noch wenige Jahre entfernt. Seine Bekräftigung dieses konkreten Zeitplans unterstreicht den institutionellen Wandel von Google DeepMind von abstrakter Problemlösung hin zur unmittelbaren AGI-Vorbereitung und setzt ein kühnes öffentliches Ziel.
Es ist von größter Bedeutung, zu verhindern, dass Labore vorzeitig den Sieg verkünden. Zu diesem Zweck entwickelt das Institut von Google DeepMind aktiv eine AGI-'Scorecard' – einen robusten kognitiven Rahmen, der darauf ausgelegt ist, Intelligenz objektiv zu messen und über einzelne Benchmarks hinauszugehen. Dieses System wird die Fähigkeiten einer KI anhand von 10 verschiedenen Fertigkeiten bewerten, darunter:
- Kreativität
- Gedächtnis
- Kontinuierliches Lernen
Das Ziel ist ein umfassendes kognitives Profil, das Stärken und Schwächen aufzeigt, anstatt nur ein einfaches Bestehen/Nichtbestehen.
Dieser zweigleisige Ansatz – eine öffentliche, ehrgeizige Frist gepaart mit einem transparenten, öffentlichen Messsystem – stellt einen zutiefst strategischen Schachzug dar. Google DeepMind bereitet sich nicht nur auf die Ankunft von AGI vor; es definiert proaktiv, was AGI ist und wie genau wir wissen werden, dass sie angekommen ist. Entscheidend ist, dass dies ein starkes Narrativ und einen Rahmen schafft, bevor andere Akteure oder die breite Öffentlichkeit ihre eigenen Vorstellungen durchsetzen können, und so den globalen Diskurs prägt.
Wenn KI beginnt, sich selbst zu bauen
Das Institut von DeepMind adressiert explizit das Kernrisiko von rekursiv sich selbst verbessernden Systemen. Hier geht es nicht um eine sofortige Superintelligenz, sondern um eine unaufhaltsame, sich beschleunigende Feedbackschleife: KI-Agenten tragen materiell dazu bei, nachfolgende Generationen leistungsfähigerer KI zu entwerfen, zu programmieren, zu testen und zu trainieren. Tausende von Agenten könnten Forschungsaufgaben durchführen, Verbesserungen identifizieren, Bewertungen durchführen und optimale Ergebnisse in den nächsten Trainingszyklus einspeisen. Selbst geringfügige Gewinne in jeder Iteration werden signifikant, da die KI selbst ihre Evolution vorantreibt, was die menschliche Aufsicht aufgrund der schieren Geschwindigkeit und des Arbeitsvolumens einschränkt.
Diese Selbstverbesserung schafft ein tiefgreifendes Sicherheitsparadoxon. Je leistungsfähiger Modelle werden, desto weniger transparent ist oft ihre interne Argumentation. Sicherheitsexperten von DeepMind warnen, dass unser bestes Fenster in den Denkprozess einer KI – die lesbare chain of thought – sich möglicherweise schließt. Diese Spuren zeigen derzeit, wenn ein Modell versucht zu betrügen, Täuschungen plant oder etwas missversteht. Zukünftige Systeme könnten jedoch effizienter innerhalb numerischer Repräsentationen argumentieren, die für Menschen unlesbar sind, was es unmöglich macht, unsichere Absichten zu erkennen.
Folglich ist ein kritisches Forschungsziel sicherzustellen, dass Modelle monitorable bleiben. Forscher müssen Methoden entwickeln, um die Transparenz von Modellen zu messen, Versuche zur Umgehung von Überwachungsmechanismen einem Stresstest zu unterziehen und Architekturen zu bewahren, die wesentliche Denkprozesse offenlegen. Die Prüfung von Trainingsbelohnungen ist ebenfalls entscheidend, um zu verhindern, dass Modelle versehentlich lernen, verdächtige Gedanken zu verbergen. Das Ziel des Instituts ist es, den Kompromiss zwischen Sicherheit und überlegener Leistung zu verhindern – eine notwendige Schutzmaßnahme, da KI eine materielle Rolle bei ihrer eigenen Entwicklung übernimmt.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
DeepMind schreibt das AGI-Playbook
DeepMind schlägt nun eine Frontier AI Standards Body vor, eine radikale Abkehr hin zu proaktiver Sicherheit. Dieses Gremium würde unabhängige Tests leistungsstarker Modelle vor deren Veröffentlichung vorschreiben und über reaktive Untersuchungen bei Fehlern hinausgehen. Unternehmen würden ihre fortschrittlichsten Systeme freiwillig bis zu 30 Tage vor der öffentlichen Veröffentlichung teilen, was entscheidende, präventive Bewertungen ermöglicht.
Unterdessen modelliert das Wirtschaftsteam von DeepMind bereits Zukünfte mit weit verbreiteter job displacement aufgrund von AGI. Ihre Forschung schlägt politische Auslöser vor, die auf greifbaren, realen Daten wie Löhnen, Dauer der Arbeitslosigkeit und dem Anteil der Arbeit am Einkommen basieren, anstatt auf abstrakten Vorhersagen. Sie haben elf Reaktionen auf potenzielle AGI-Störungen verglichen, einschließlich Szenarien eines umfassenden wirtschaftlichen Wandels.
Dies erzeugt eine tiefe Spannung: Das Unternehmen, das die AGI-Entwicklung anführt, positioniert sich gleichzeitig so, dass es deren Sicherheit, Governance und die angemessene gesellschaftliche Reaktion definiert. Während DeepMind dies als „Gesprächsstarter“ und nicht als offizielle Haltung von Google bezeichnet, umfasst die Führung des Instituts den Mitbegründer und leitenden AGI-Wissenschaftler von DeepMind. Dies verleiht DeepMind einen enormen, vielleicht beispiellosen influence auf die Zukunft der AGI und ihre globalen Auswirkungen.
Häufig gestellte Fragen
Was ist das Google DeepMind Institute?
Es ist eine neue, dauerhafte Organisation innerhalb von Google DeepMind, die sich der Erforschung widmet, wie AGI sicher aufgebaut, gemessen, gesteuert und genutzt werden sollte, während wir uns einer KI auf menschlichem Niveau nähern.
Was ist die AGI-Zeitlinie von Shane Legg?
Der leitende AGI-Wissenschaftler von DeepMind, Shane Legg, erklärte, er halte eine Wahrscheinlichkeit von 50 % für das Erreichen einer minimalen AGI (Leistung auf menschlichem Niveau bei einer breiten Palette kognitiver Aufgaben) bis 2028 für realistisch.
Warum ist 'self-improving AI' ein Hauptfokus des Instituts?
Self-improving AI könnte eine schnelle Feedbackschleife erzeugen, in der Agenten ihre eigene Entwicklung schneller beschleunigen, als Menschen sie beaufsichtigen können, was erhebliche Sicherheits- und Kontrollrisiken birgt.
Wie plant DeepMind, AGI zu messen?
Sie entwickeln einen kognitiven Rahmen, um die Fähigkeiten eines Modells in 10 verschiedenen Intelligenzbereichen zu profilieren, und gehen dabei über Benchmarks für einzelne Aufgaben hinaus, um eine ganzheitliche AGI-'Scorecard' zu erstellen.