Googles AGI-Bombe erklärt

Der CEO von Google DeepMind, Demis Hassabis, erteilte dem aufkeimenden AGI-Hype eine deutliche Realitätsprüfung, indem er behauptete, dass die heutigen AI-Systeme „noch lange nicht bei AGI“ sind. Seine Definition setzt eine außergewöhnlich hohe Messlatte: ein System, das in der Lage ist, die gesamte Bandbreite menschlicher kognitiver Fähigkeiten zu zeigen, einschließlich echter Erfindung, kontinuierlichen Lernens und langfristiger Planung. Diese Perspektive stellt die vorherrschende Branchenerzählung direkt infrage, die oft beeindruckende eng gefasste Leistung mit general intelligence gleichsetzt.

Hassabis argumentiert, dass selbst bedeutende Durchbrüche, wie die jüngste Widerlegung der Erdos conjecture in der diskreten Geometrie durch OpenAI (ein Problem, das seit 1946 ungelöst war), keine AGI bedeuten. Obwohl sie in spezifischen Domänen brillant sind, fehlen den aktuellen Modellen immer noch entscheidende Bestandteile: zuverlässiges Denken, echte Kreativität ähnlich der eines Ramanujan und robuste Planung über die bloße Aufgabenausführung hinaus. Sie zeichnen sich durch die Produktion beeindruckender Antworten aus, kämpfen aber mit der Konsistenz und dem breiten Verständnis, das der menschlichen Kognition eigen ist.

Von dem Leiter von Google DeepMind, einem führenden AGI-Forschungslabor, kommend, hat Hassabis' Aussage immenses Gewicht. Er widerspricht direkt der weit verbreiteten Annahme, dass AGI bereits da ist oder unmittelbar bevorsteht, und hebt die „jagged intelligence“ der aktuellen AI hervor. Diese Systeme zeigen Spitzenleistungen in einigen Bereichen, leiden aber unter unvorhersehbaren Fehlermodi, wie dem berüchtigten „goblins“-Phänomen, bei dem Modelle zufällige, irrelevante Begriffe ohne explizite, hacky Prävention einfügen. Diese Inkonsistenz unterstreicht ihre unvollständige Natur im Vergleich zu wahrer AGI.

OpenAI zeigte kürzlich die spezifische, unglaubliche Kraft der AI, indem es eine zentrale Vermutung in der diskreten Geometrie widerlegte. Dieses Problem, das mit dem planaren Einheitsabstand zusammenhängt, wurde erstmals 1946 von Paul Erdos gestellt und blieb fast 80 Jahre lang ungelöst. Ein OpenAI-Modell erstellte einen Beweis, der später von externen Mathematikern verifiziert wurde und fortgeschrittenes mathematisches Denken demonstrierte.

Trotz solcher Leistungen zeigen aktuelle AI-Systeme eine jagged intelligence, ein Begriff, der von Andrej Karpathy geprägt wurde. Sie leisten übermenschliches in engen Domänen, versagen aber unvorhersehbar in anderen. Diese Inkonsistenz unterstreicht einen grundlegenden Mangel an breitem Verständnis und zuverlässiger Kognition, was stark im Gegensatz zur menschlichen general intelligence steht.

Die Fehlermodi der AI erscheinen oft bizarr und unmenschlich. Gary Marcus hebt Beispiele hervor, bei denen Systeme unerklärlicherweise Wörter wie „goblins“ in zufällige Ausgaben einfügen. Die Minderung dieser Eigenheiten erfordert „hack-y goblin-specific crud“ in System-Prompts, was eine Abhängigkeit von Brute-Force-Patching gegenüber echtem Verständnis offenbart.

Marcus kritisiert diesen Ansatz als „Alchemie“ statt als computer science und bezeichnet ihn als „Billionen-Dollar-Zugunglück“, das tiefe systemische Inkonsistenzen widerspiegelt. Diese seltsamen Verhaltensweisen unterstreichen, dass selbst fortgeschrittene Modelle das konsistente, fundierte Verständnis, das für wahre AGI notwendig ist, nicht besitzen, sondern stattdessen mit leistungsstarker, aber fragiler Mustererkennung arbeiten.

Doch nicht jeder stimmt Hassabis' vorsichtiger Haltung zu. Der Venture Capitalist Marc Andreessen argumentiert, dass, wenn ein Mensch die kombinierten Skills der heutigen führenden AI-Modelle zeigen würde – komplexe mathematische Vermutungen lösen, Code generieren und dichte Dokumente zusammenfassen – wir ihn unzweifelhaft als Genie bezeichnen würden. Diese Perspektive hebt die bemerkenswerten, wenn auch inkonsistenten, Capabilities hervor, die diese Systeme bereits besitzen.

Tatsächlich erzeugt die Definition von AGI selbst einen Großteil der Verwirrung. Helen Toner, ein OpenAI-Vorstandsmitglied, schlug auf X vor, dass „AGI“ zu einem fast nutzlosen Begriff geworden ist. Die Menschen definieren ihn wild unterschiedlich, von einem Experten-Chatbot bis hin zu einer wirklich bewussten, selbstwahrnehmenden Maschine. Diese semantische Ausbreitung trübt jede produktive Diskussion.

Anstatt darüber zu debattieren, ob AGI „angekommen“ ist, verlagert ein fruchtbarer Ansatz den Fokus. Wir müssen spezifische Fähigkeiten identifizieren, die KI jetzt besitzt, und die kritischen, die noch fehlen. Demis Hassabis selbst räumt ein, dass die heutigen Systeme trotz ihrer engen Brillanz keine wahre Erfindung und konsistente Zuverlässigkeit aufweisen. Weitere Informationen zu Hassabis' Ansichten finden Sie unter DeepMind: CEO Demis Hassabis says AGI Lags Human Reasoning | Technology Magazine.

Diese Neuausrichtung führt uns über abstrakte philosophische Debatten hinaus. Sie verankert die Diskussion in greifbarem Fortschritt und identifizierbaren Lücken und bietet klarere Metriken zur Bewertung der KI-Entwicklung. Das Verständnis dieser unterschiedlichen Intelligenzstufen, von beeindruckender enger KI bis hin zu schwer fassbarer allgemeiner Intelligenz, bleibt von größter Bedeutung.

Das Erreichen wahrer AGI erfordert mehr als isolierte Brillanz. Demis Hassabis identifiziert konsequent fünf zentrale fehlende Teile in den heutigen KI-Systemen. Diese kritischen Lücken umfassen: - Langzeitverlässlichkeit, die einen konsistenten, fehlerfreien Betrieb über längere Zeiträume gewährleistet. - Volle Autonomie, die es Systemen ermöglicht, ohne ständige menschliche Aufsicht oder detaillierte Anweisungen zu arbeiten. - Stabiler Speicher, der es Modellen ermöglicht, Informationen über weite Kontexte und Zeiträume hinweg zu speichern und abzurufen. - Fundiertes Denken, das abstraktes Wissen mit realem Verständnis und physikalischen Gesetzen verbindet. - Echte Erfindung, die Fähigkeit zu neuartigen Kreationen und wissenschaftlichen Durchbrüchen jenseits der Mustererkennung.

Hassabis, trotz seiner strengen Definition, hat kürzlich einen überraschend optimistischen Zeitplan für das Eintreffen von AGI vorgelegt. Er prognostiziert nun, dass AGI bereits 2029-2030 entstehen könnte, eine schnelle Beschleunigung gegenüber früheren Schätzungen. Dieser überarbeitete Ausblick wird hauptsächlich durch die rasche Entwicklung hochentwickelter „agentischer Systeme“ vorangetrieben, die eine verbesserte Selbststeuerung und Aufgabenorchestrierung versprechen. Solche Systeme, so glaubt er, werden viele aktuelle Einschränkungen überbrücken.

Unabhängig davon, wann echte AGI Wirklichkeit wird, ist die aktuelle Generation leistungsstarker KI-Systeme bereits zutiefst transformativ. Sie als bloße „Autovervollständigung“ oder „verherrlichte Chatbots“ abzutun, übersieht ihren immensen Einfluss auf Wissenschaft, Industrie und den Alltag. Diese sich schnell entwickelnden Fähigkeiten trotz ihrer Unvollkommenheiten zu ignorieren, stellt einen erheblichen strategischen Fehltritt für jede Organisation oder Einzelperson dar. Diese KI-Systeme sind nicht nur ein Vorgeschmack auf die Zukunft; sie gestalten aktiv die Gegenwart.

Was sagte Google DeepMind CEO Demis Hassabis über AGI?

Demis Hassabis erklärte, dass aktuelle KI-Systeme „noch lange nicht“ an Künstliche Allgemeine Intelligenz (AGI) heranreichen, und argumentierte, dass ihnen die volle Bandbreite menschlicher kognitiver Fähigkeiten wie wahre Erfindung und tiefe Zuverlässigkeit fehle.

Was ist 'jagged intelligence' in der KI?

Der von dem Forscher Andrej Karpathy geprägte Begriff „jagged intelligence“ beschreibt, wie KI bei einigen Aufgaben übermenschliche Leistungen erbringen kann, während sie bei anderen katastrophal versagt, im Gegensatz zum konsistenteren kognitiven Profil von Menschen.

Warum ist die Definition von AGI so umstritten?

Der Begriff AGI ist umstritten, weil Experten ihn unterschiedlich definieren. Für einige bedeutet er einen Chatbot auf Expertenniveau, während er für andere eine autonome, bewusste Maschine bedeutet, was die Debatte über seine Ankunft stark fragmentiert.

Welche Schlüsselkompetenzen fehlen für eine echte AGI?

Zu den wichtigsten fehlenden Komponenten für AGI gehören langfristige Zuverlässigkeit, echte Autonomie, stabiles Gedächtnis, fundiertes Denken in der realen Welt und die Fähigkeit zu echter, kreativer Erfindung über das Lösen zugewiesener Aufgaben hinaus.