Das Argument dreht sich um ein rutschiges Wort
Die Debatte über die Fähigkeit von KI zum Verständnis hängt an einem einzigen, mehrdeutigen Wort. Am 15. Oktober erklärte Gregory Kurtzer, Mitbegründer von CentOS und Rocky Linux, auf Twitter, dass LLMs „statistische Modelle sind, die Tokens ausspucken… kein Verständnis für das Thema haben.“ David Shapiro hielt dagegen, dass die nachweisbaren Fähigkeiten von LLMs sehr wohl ein Verständnis darstellen.
Kurtzers beeindruckende Referenzen, zu denen jahrelange Entwicklung von High-Performance-Computing-Software am Lawrence Berkeley National Laboratory gehört, unterstreichen die substanzielle Natur dieses Streits. Die Kernmehrdeutigkeit liegt im „Verständnis“ selbst: Es kann sich auf eine private, bewusste Erfahrung beziehen oder auf eine nachweisbare Fähigkeit, Informationen zu interpretieren, zu erklären und zu nutzen. Diese Definitionen beantworten grundlegend unterschiedliche Fragen.
Dieser Artikel verfolgt einen testbaren Ansatz und bewertet funktionale Kompetenz anhand beobachtbaren Verhaltens. Wir werden untersuchen, was KI-Modelle tun können, anstatt über ihre internen Zustände zu spekulieren. Bewusstsein und subjektive Erfahrung bleiben separate, ungelöste Fragen, die sich von der objektiven Bewertung von Verständnis unterscheiden.
Stellen Sie KI auf Blooms sechssprossige Leiter
Wie messen wir „Verständnis“ objektiv? Pädagogen haben diese Frage seit Jahrzehnten verfeinert. Blooms überarbeitete Taxonomie bietet eine sechssprossige Leiter, die Verständnis durch beobachtbare Handlungen definiert: Interpretieren, Zusammenfassen, Schlussfolgern, Vergleichen und Erklären – nicht durch einen vagen internen Zustand. Ihre Sprossen steigen von Erinnern, Verstehen und Anwenden bis hin zu Analysieren, Evaluieren und Erschaffen.
KI-Modelle demonstrieren mittlerweile Fähigkeiten über diese Sprossen hinweg. Beim „Erinnern“ haben sich Spitzenmodelle, die sich dem Humanity’s Last Exam (einem Benchmark mit 2.500 Fragen) stellen, in unabhängigen Tests von unter 10 % auf etwa 61 % verbessert. Beim „Verstehen“ lernten Harvard-Physikstudenten, die von KI betreut wurden, mehr als doppelt so viel wie diejenigen in Kursen mit aktivem Lernen, während selbst Gregory Kurtzer zugibt, dass LLMs „schwierige Konzepte erklären“ können.
Weiter oben auf der Leiter, beim „Anwenden“, erreichte ein Google DeepMind KI-System eine Goldmedaillen-Punktzahl von 35 von 42 bei der Internationalen Mathematik-Olympiade, wobei die Lösungen von Olympiade-Koordinatoren bewertet wurden. Beim „Analysieren“ fanden KI-Systeme in der DARPA AI Cyber Challenge 54 von 63 eingeschleusten Software-Schwachstellen sowie 18 nicht eingeschleuste.
Auch die höheren Sprossen zeigen Fortschritte. Beim „Evaluieren“ stimmte die Bewertung von GPT-4 in über 80 % der Fälle mit der von menschlichen Experten überein. Beim „Erschaffen“ haben KI-Forschungssysteme neuartige mathematische Algorithmen generiert und damit Fähigkeiten demonstriert, die Blooms Definitionen auf höchster Ebene erfüllen. Diese Benchmarks belegen spezifische Fähigkeiten, nicht ein universelles oder dem Menschen gleichwertiges Verständnis.
Warum „nur Tokens vorhersagen“ die Frage nicht klärt
Große Sprachmodelle (LLMs) lediglich als „Tokens vorhersagend“ zu beschreiben, erklärt wie sie funktionieren, definiert aber nicht ihre Fähigkeiten. Ein Mechanismus begrenzt nicht zwangsläufig die Funktion; das Gehirn feuert schließlich auch nur Neuronen und erreicht dennoch ein tiefgreifendes Verständnis. Diese Unterscheidung ist entscheidend für die Bewertung der wahren Kapazitäten von KI.
Berücksichtigen Sie Ashby’s Law of Requisite Variety, das besagt, dass ein effektiver Regler mindestens so viel Varietät besitzen muss wie das System, das er reguliert. Das Conant–Ashby-Theorem postuliert zudem: „Jeder gute Regler eines Systems muss ein Modell dieses Systems sein.“ Dies bedeutet, dass eine erfolgreiche Regulierung die Entwicklung eines hinreichend ähnlichen internen Modells impliziert, sei es explizit oder emergent. KI-Agenten, die sich an neuartige Situationen und Ziele anpassen, demonstrieren oft diese interne Modellierung.
Die Belege für solche gelernten Modelle sind überzeugend. Ein Othello-Modell, das ausschließlich mit Spielzügen trainiert wurde, entwickelte eine interne Repräsentation des Spielbretts; die Manipulation dieses internen Bildes veränderte direkt das Spielverhalten des Modells. Ähnlich faltete ein KI-Modell erfolgreich Wäsche mit unbekannten Industrieroboterarmen und schnitt dabei genauso gut ab wie menschliche Experten, die dieselbe Ausrüstung zum ersten Mal benutzten. Diese Beispiele stützen die Existenz von funktionaler Modellierung und deuten darauf hin, dass KI interne Repräsentationen ihrer Umgebung aufbaut, auch wenn sie nicht wie ein Mensch „denkt“. Für einen tieferen Einblick in pädagogische Rahmenwerke erkunden Sie Bloom’s Taxonomy - Vanderbilt University Center for Teaching.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Bewusstsein trennen – und Verantwortlichkeit wahren
Das Schließen von äußerem Verhalten auf inneres Erleben stellt eine klassische philosophische Herausforderung dar, veranschaulicht durch das Gedankenexperiment des Chinesischen Zimmers. Funktionale Tests etablieren jedoch nützliche Kompetenz, ohne die metaphysische Frage nach dem Bewusstsein zu klären. Wir können bewerten, was ein System tut, ohne zu wissen, was es fühlt.
Subjektives Vertrauen erweist sich ebenfalls als unzuverlässiger Maßstab. Menschen überschätzen häufig ihr Verständnis bekannter Mechanismen, was zu Fehlern führt. Ähnlich können KI-Systeme selbstbewusst falsche Antworten produzieren, was zeigt, dass interne Gewissheit nicht mit objektiver Genauigkeit gleichzusetzen ist.
KI-Verständnis bleibt, obwohl beeindruckend, in bestimmten Kontexten ungleichmäßig und fragil. Diese funktionale Fähigkeit ist kein Beweis für Bewusstsein. Unabhängig von den sich entwickelnden Fähigkeiten der KI tragen Menschen und Organisationen die volle Verantwortung für die von ihnen eingesetzten Systeme, die Entscheidungen, die sie beeinflussen, und jeden daraus resultierenden Schaden.
Häufig gestellte Fragen
Versteht KI tatsächlich irgendetwas?
Das hängt von der Definition ab. Anhand beobachtbarer Maßnahmen wie Erklären, Anwenden und Analysieren kann KI funktionales Verständnis demonstrieren, wenngleich ihre Leistung ungleichmäßig ist.
Bedeutet funktionales Verständnis, dass KI bewusst ist?
Nein. Das Demonstrieren nützlicher Fähigkeiten beweist nicht, dass ein System über subjektive Erfahrung oder Bewusstsein verfügt.
Wie kann Bloom’s Taxonomy bei der Bewertung von KI helfen?
Sie bietet beobachtbare kognitive Aufgaben – vom Erinnern und Erklären bis hin zum Bewerten und Erschaffen –, die zur Leistungsbeurteilung herangezogen werden können.
Warum ist Ashby’s Law für die KI-Debatte wichtig?
Es legt nahe, dass ein effektiver Regler ein Modell des Systems benötigt, das er steuert, und verbindet erfolgreiche Anpassung mit prädiktiver Modellierung.