Der KI-Pionier, der gegen immer größere Chatbots wettet
Der KI-Pionier Yann LeCun argumentiert seit Langem, dass allein die Skalierung der Next-Token-Vorhersage keine menschenähnliche Intelligenz hervorbringen wird – eine Kritik, die sich davon unterscheidet, Sprachmodelle gänzlich abzulehnen. Seine Skepsis beruht auf der grundlegenden Beschränkung von Text als Datenquelle; er vertritt die Ansicht, dass das Verständnis der realen Welt reichhaltigere, multimodale Eingaben erfordert.
LeCuns Qualifikationen verleihen seiner Position erhebliches Gewicht. Er war Mitbegründer der Convolutional Neural Networks (CNNs) an den Bell Labs und erhielt dafür 2018 gemeinsam mit Geoffrey Hinton und Yoshua Bengio den Turing Award. Seine zehnjährige Tätigkeit als Chief AI Scientist von Meta und anschließend sein Weggang, um AMI Labs mit einer Seed-Runde über $1.03 billion zu gründen, deuten auf eine ernsthafte Forschungswette gegen den vorherrschenden Branchentrend hin.
Dieser Artikel untersucht, ob LeCuns neue Veröffentlichung „Proving N/A Improving the Platonic Representation Hypothesis with JEPAs“ empirische Belege für einen alternativen Weg liefert. Konkret prüfen wir, ob der darin enthaltene Benchmark, in dem ein Modell mit 109 Millionen Parametern Modelle mit 72 Milliarden Parametern bei der modalitätsübergreifenden Repräsentationsangleichung übertrifft, seine Hypothese tatsächlich bestätigt und was die verwendete Kennzahl legitimerweise über die Zukunft der KI aussagt.
Warum Text einer KI nicht beibringen kann, wie die Welt funktioniert
Sprachmodelle sind bei textbasierten Aufgaben stark, weil sie lernen, das nächste Token in einer Sequenz vorherzusagen. Dabei erkennen sie statistische Muster in riesigen Datensätzen, was es ihnen ermöglicht, kohärente Prosa zu erzeugen, Code zu schreiben und sogar komplexe mathematische Operationen auszuführen. Ihre Leistungsfähigkeit beruht darauf, die interne Logik der Sprache selbst zu beherrschen.
Yann LeCun argumentiert jedoch, dass Text allein ein dürftiges Bild der Realität vermittelt. Er geht davon aus, dass ein kleines Kind in seinen ersten vier Lebensjahren über visuelle Eingaben ungefähr dieselbe Datenmenge verarbeitet – etwa 10^14 Bytes – wie die größten Sprachmodelle aus dem gesamten öffentlich verfügbaren Internettext aufnehmen. Dieser visuelle Strom vermittelt direkte Erfahrung mit physikalischen Gesetzen: Schwerkraft, Objektpermanenz und Materialeigenschaften.
Diese Unterscheidung erklärt ein hartnäckiges Paradox: KI kann die Anwaltsprüfung bestehen und tut sich dennoch mit Haushaltsrobotik schwer. Während Chatbots bemerkenswerte sprachliche Gewandtheit zeigen, bleiben Wahrnehmung und Handeln in der realen Welt schwer zu erreichen. Robotik und autonomes Fahren haben es mit kontinuierlichen, unsicheren Umgebungen zu tun, in denen kleine Fehler reale Konsequenzen haben – eine Herausforderung, der statistische Textmuster nicht vollständig gerecht werden können.
JEPA sagt die nützlichen Teile voraus – nicht jedes Pixel
Ein World Model ist die interne Repräsentation der Umgebung einer KI, mit der sie vorhersagen kann, wie sich Situationen entwickeln könnten – etwa indem sie die Flugbahn eines rollenden Balls antizipiert. Herkömmliche generative KI sagt dagegen oft jedes winzige Detail voraus, etwa jedes Pixel in einem zukünftigen Bild, was rechenintensiv und oft unnötig ist.
Joint-Embedding Predictive Architectures (JEPAs) bieten eine Alternative. Anstatt detaillierte Ausgaben zu erzeugen, kodieren JEPAs Beobachtungen in eine kompakte, abstrakte latente Repräsentation und führen Vorhersagen innerhalb dieses Raums durch. Dieser Ansatz konzentriert sich darauf, die nützlichen Teile zukünftiger Zustände vorherzusagen und irrelevantes Rauschen zu ignorieren.
Die Kernidee lautet: Beobachtungen derselben zugrunde liegenden Szene sollten, auch über verschiedene Modalitäten hinweg (z. B. Text und Bild), in diesem latenten Raum zu angeglichenen Repräsentationen konvergieren. Dieses Konzept, formalisiert als Platonic Representation Hypothesis, legt nahe, dass ein Modell aus vielfältigen Eingaben ein einheitliches Verständnis der Realität lernen kann. Weiterführende Informationen finden Sie in der Veröffentlichung Proving N/A Improving the Platonic Representation Hypothesis with JEPAs.
In einem aktuellen Benchmark erzielte ein Text-JEPA mit 109 Millionen Parametern bei der modalitätsübergreifenden Repräsentationsangleichung mit Metas Bildmodell DINOv2 einen Wert von 0.184. Damit übertraf es Qwen2.5-72B (0.154) und Llama-3-70B (0.151) deutlich, obwohl es etwa 660-mal kleiner ist. JEPAs zeigen zudem eine bemerkenswerte Stichprobeneffizienz: Sie benötigten nur 21,6 Millionen gepaarte Stichproben, verglichen mit 900 Millionen bei herkömmlicher Next-Token-Vorhersage.
Gefällt Ihnen der Artikel? Erhalten Sie jeden Morgen einen wie diesen per E-Mail.
eine E-Mail pro Tag · Abmeldung mit zwei Klicks · kein Tracking durch Dritte
Der Benchmark ist beeindruckend – und enger gefasst, als der Hype vermuten lässt
Die Veröffentlichung präsentiert einen beeindruckenden quantitativen Vergleich: Ein Text-JEPA-Modell mit 109 Millionen Parametern erreichte mit Metas Bildmodell DINOv2 einen Repräsentationsangleichungswert von 0.184. Damit übertraf es Qwen2.5-72B mit 0.154 und Llama-3-70B mit 0.151 deutlich und zeigte eine überlegene modalitätsübergreifende Angleichung mit einem Modell, das etwa 660-mal kleiner ist.
Diese Effizienz zeigte sich auch beim Datenbedarf. Das JEPA-basierte Framework erreichte seine Angleichung mit nur 21,6 Millionen gepaarten Stichproben, ein deutlicher Kontrast zu den 900 Millionen Stichproben, die Next-Token-Vorhersage-Ansätze in diesem speziellen Versuchsaufbau für eine ähnliche Angleichung benötigten. Das deutet auf einen möglichen Vorteil bei der Stichprobeneffizienz in bestimmten Lernparadigmen hin, nicht auf eine universelle Kostensenkung für alle KI-Aufgaben.
Entscheidend ist: Dieser Benchmark bewertet die Repräsentationsangleichung, nicht Fähigkeiten wie Konversations-Chat, komplexes Programmieren oder fortgeschrittenes mathematisches Reasoning. Die Veröffentlichung liefert überzeugende Belege dafür, dass Lernziele und Datenstruktur die Effizienz eines Modells und das daraus entstehende Verständnis maßgeblich beeinflussen. So vielversprechend dies ist: Die breitere Anwendbarkeit von JEPAs auf vielfältige, reale Aufgaben und ihre Skalierbarkeit auf größere Modelle bleiben Gegenstand künftiger Untersuchungen und Tests.
Häufig gestellte Fragen
Was ist JEPA in der KI?
JEPA, die Joint-Embedding Predictive Architecture, sagt Beziehungen zwischen abstrakten Repräsentationen von Daten voraus, anstatt jedes einzelne Roh-Pixel oder Token zu rekonstruieren.
Hat ein JEPA mit 109 Millionen Parametern Chatbots mit 72 Milliarden Parametern geschlagen?
Es übertraf deutlich größere Modelle in einem Benchmark zur modalitätsübergreifenden Repräsentationsangleichung. Als Chatbot oder als allgemeines Reasoning-System wurde es nicht getestet.
Was ist die Platonic Representation Hypothesis?
Sie besagt, dass KI-Modelle, die auf unterschiedlichen Modalitäten trainiert wurden, ähnliche interne Repräsentationen der zugrunde liegenden Welt lernen können.
Beweist diese Forschung, dass die Skalierung großer Sprachmodelle eine Sackgasse ist?
Nein. Die Ergebnisse stützen einen anderen Ansatz beim Representation Learning, zeigen aber nicht, dass JEPA Sprachmodelle bei realen Aufgaben ersetzt.