Die verborgene Maschinerie hinter dem „Denken“ eines LLM

Stellen Sie sich ein einfaches Modell zur Vorhersage von Hauspreisen vor: 1.000 Quadratfuß multipliziert mit einem erlernten weight von 300 ergibt einen Output von 300.000 Dollar. Echte neuronale Netze skalieren dies hoch, indem sie viele Inputs und Gewichte über mehrere Schichten hinweg kombinieren. Der Output einer Schicht wird zum Input für die nächste.

Diese Recheneinheiten sind neurons, und alle erlernten Werte sind parameters. Diese einfache Multiplikation bietet eine Intuition, unterschätzt jedoch die Komplexität eines LLM bei weitem. Ein Frontier LLM wie Llama 3 405B hat 126 Schichten; bei GPT-4 werden 96 bis 128 Schichten geschätzt.

Das Stapeln von Schichten ermöglicht es Modellen, zunehmend komplizierte Muster zu erlernen. Während „etwa 100 Schichten“ eine gängige Tiefe veranschaulicht, variieren spezifische Architekturen erheblich. Jede Schicht transformiert Eingabedaten, was es dem Netzwerk ermöglicht, Merkmale aus Rohinformationen zu abstrahieren, ähnlich wie das Erkennen von Kanten, bevor ein Objekt identifiziert wird.

Text beginnt seine Reise nicht als Wörter, sondern als tokens – numerische IDs, die für häufige Wortfragmente oder Satzzeichen stehen. „Bank“ könnte eine einzelne Token-ID sein. Eine spezialisierte Nachschlagetabelle bildet dann jede Token-ID auf ein numerisches embedding ab: einen Vektor oder eine Liste von Zahlen, die eine brauchbare Startrepräsentation für das Modell liefert.

Betrachten Sie das Wort „bank“. Seine Bedeutung ändert sich dramatisch zwischen „I sat on the river bank“ und „I put my money in the bank“. Ein fester Wörterbucheintrag kann diese Nuance nicht erfassen. Damit das Modell diese Mehrdeutigkeit auflösen kann, muss es die umgebenden Wörter berücksichtigen.

Hier kommt die kausale Self-Attention ins Spiel, der Kernmechanismus der grundlegenden Transformer-Architektur. Innerhalb jeder Schicht kann jedes Token an einer bestimmten Position alle vorangegangenen Token in der Sequenz „beachten“ oder Informationen von ihnen beziehen. Es aktualisiert seine numerische Repräsentation dynamisch, indem es die relevantesten kontextuellen Hinweise einmischt.

Für „bank“ in „river bank“ könnte der Attention-Mechanismus „river“ stark gewichten, während er sich bei „money in the bank“ auf „money“ konzentrieren würde. Diese kontextuelle Vermischung stellt sicher, dass der Vektor des Tokens seine spezifische Verwendung genau widerspiegelt. Nach etwa 100 solcher Schichten kapselt das endgültige Token-Embedding den vollständigen Kontext der gesamten Nachricht ein, was es dem Modell ermöglicht, fundierte Vorhersagen für das nächste Token zu treffen.

Ein Transformer-Block, die zentrale Recheneinheit in LLMs, führt zwei unterschiedliche Operationen aus. Erstens mischt ein attention mechanism Informationen über Token-Positionen hinweg. Dies ermöglicht es einem Modell, die Relevanz jedes vorangegangenen Wortes für das aktuelle Wort zu gewichten und Mehrdeutigkeiten aufzulösen, wie etwa, ob sich „bank“ auf ein Flussufer oder ein Finanzinstitut bezieht, indem die Nachbarn betrachtet werden.

Nachdem die Attention das Token kontextualisiert hat, verarbeitet ein feed-forward network (FFN) dessen Vektor unabhängig. Betrachten Sie das FFN als Musterdetektor: Es nimmt die angepasste numerische Repräsentation von „bank“ und prüft auf eingebettete Muster, wie etwa „Geht es hier um Geld?“. Wenn ein Muster übereinstimmt, verstärkt das FFN das, was das Modell über dieses spezifische Konzept gelernt hat. Forscher wie Geva et al. haben gezeigt, dass diese Schichten als assoziative Speicher fungieren, die faktische Zusammenhänge abrufen.

Während diese vereinfachte Darstellung den Kern trifft, enthalten echte Transformer-Blöcke auch Mechanismen wie residual connections und Normalisierungsschichten. Diese Komponenten, die in der Analogie des Videos zur besseren Übersichtlichkeit weggelassen wurden, stabilisieren das Training und verbessern die Leistung. Für einen tieferen Einblick in die Transformer-Architektur erkunden Sie das wegweisende Paper Attention Is All You Need. Moderne LLMs wie Llama 3 405B nutzen bis zu 126 solcher Schichten, um komplexe kontextuelle Repräsentationen aufzubauen.

Nach etwa 100 Schichten aus Attention- und Feed-Forward-Netzwerken erreicht die endgültige kontextuelle Repräsentation des Modells für die letzte Token-Position die Ausgabeschicht. Dieser Vektor wird dann in logits umgewandelt: numerische Werte für jedes Token im Vokabular des Modells, das zwischen 32.000 und über 128.000 einzigartige Token umfassen kann. Eine softmax-Funktion kann diese Logits dann in Wahrscheinlichkeiten umwandeln, die angeben, wie wahrscheinlich es ist, dass jedes Token das nächste Wort ist.

Das Decoding wählt dann das nächste Token aus. Während die einfache Auswahl des Tokens mit der höchsten Wahrscheinlichkeit eine Strategie ist, führen fortgeschrittene Methoden wie sampling ein Element der Zufälligkeit ein, was innerhalb der Wahrscheinlichkeitsverteilung vielfältigere und kreativere Ausgaben ermöglicht. Dieses einzelne Token wird dann an die Eingabe angehängt, und der gesamte Prozess wiederholt sich, um das nächste Token in der Sequenz zu generieren.

Dieser iterative Prozess, bei dem ein Token nach dem anderen generiert wird, bekannt als autoregressive generation, baut eine vollständige Antwort auf. Entscheidend ist, dass das Modell seine gesamte Antwort nicht im Voraus plant; es sagt jedes Token basierend auf den vorherigen voraus. Während fortgeschrittene Reasoning-Modelle mehr Rechenzeit während der Inferenz aufwenden können, um Zwischenschritte oder "Gedankengänge" zu generieren, produzieren sie ihre endgültige Ausgabe dennoch sequenziell, Token für Token.

Wie wählt ein LLM sein nächstes Wort aus?

Es berechnet basierend auf dem Kontext Werte für die Token in seinem Vokabular und wählt dann ein Token gemäß dieser Werte und seiner Decoding-Einstellungen aus.

Was bewirkt Attention in einem Transformer?

Attention ermöglicht es der Repräsentation jedes Tokens, auf relevante Token im Kontext zurückzugreifen, was dem Modell hilft, Bedeutungen wie „Flussufer“ (river bank) und „Bankkonto“ (bank account) zu unterscheiden.

Denken LLMs wie Menschen?

Nicht im menschlichen Sinne. Standard-LLMs generieren Text durch erlernte Berechnungen und die Vorhersage des nächsten Tokens, obwohl mehrstufige Ausgaben wie logisches Denken wirken können.

Was sind Parameter in einem LLM?

Parameter sind erlernte numerische Werte, einschließlich Gewichten, die bestimmen, wie das Modell seine Eingabe transformiert und Vorhersagen trifft.