Das LLM, das Super Mario ausführt

Ein Computer, kein cleverer Tool-Aufruf#

Qwenputer, eine neuartige Implementierung, bettet eine 32-Bit-RISC-V-CPU direkt in die Gewichte von Alibabas Modell Qwen 3.5 4B ein. Dieser innovative Ansatz umgeht herkömmliche Methoden wie Tool-Aufrufe oder Sandbox-Umgebungen und führt die Berechnung vollständig innerhalb der Forward-Passes des Modells aus. Die CPU ist kein externes Hilfsprogramm, sondern buchstäblich in den Parametern des neuronalen Netzes kodiert.

Ein spezialisierter Compiler, chipformer, übersetzt eine Schaltungsbeschreibung der CPU in konkrete Attention- und MLP-Gewichte. Dabei werden 11 kompilierte Layer für die CPU vorgesehen, die den ursprünglichen 32 Layern von Qwen vorangestellt werden. Entscheidend ist, dass diese Integration kein zusätzliches Training erfordert, da der Compiler die Parameter des Modells direkt programmiert.

Das bedeutet, dass die Befehlsausführung über die Forward-Passes des Modells abläuft und als gezielt konstruierte Schaltung arbeitet. Wichtig ist die Abgrenzung zu einem gewöhnlichen LLM, das spontan Rechenfähigkeiten entwickelt: Qwenputer ist eine deterministische, fest programmierte CPU, die in die Architektur des Modells eingebaut ist. Sie besteht die offiziellen RISC-V-Tests und führt C- und MicroPython-Binärdateien intern aus.

Der Speichertrick, der offen vor aller Augen liegt#

Eine zentrale Herausforderung für jede CPU ist der Speicher. Die geschickte Lösung von Qwenputer nutzt den Gated DeltaNet-Mechanismus, der in drei von vier Attention-Layern in Qwen 3.5 4B vorkommt, als RAM mit fester Kapazität um. Normalerweise zerfällt dieser rekurrente Zustand langsam, sodass das Modell ältere Informationen „vergessen“ kann.

Indem jedoch das Retention Gate auf 1 fixiert wird, bleiben gespeicherte Werte unbegrenzt erhalten und widersetzen sich dem üblichen Zerfall. Eine Update-Stärke von 1 stellt sicher, dass neue Schreibvorgänge vorhandene Daten vollständig überschreiben, statt sich mit ihnen zu vermischen. Außerdem lenken One-Hot-Schlüssel jeden Schreibvorgang auf eine exakte Zeile der Zustandsmatrix und ermöglichen so einen präzisen, adressierbaren Speicher.

Das steht in deutlichem Gegensatz zum stetig wachsenden KV-Cache eines Transformers, der mit der Kontextlänge zunimmt. Der Speicher von Qwenputer ist endlich und gezielt konfiguriert, kein unbegrenztes Reservoir für den Gesprächsrückruf und kein universelles Dateisystem. Dadurch kann die 32-Bit-RISC-V-CPU, die über 11 Layer von Qwen verteilt eingebettet ist, auf dedizierten Speicher zugreifen, die offiziellen riscv-tests bestehen und C sowie MicroPython innerhalb des Forward-Passes des Modells ausführen.

Vom Bestehen der CPU-Tests bis zum Spielen von Mario#

Die RISC-V-CPU von Qwenputer bewies ihre Funktionsfähigkeit, indem sie die offiziellen riscv-tests-Suiten bestand, darunter rv32ui, rv32um und rv32uzba. Sie führte C- und MicroPython-Binärdateien erfolgreich direkt im Forward-Pass des Modells aus und zeigte damit einen deterministischen Ausführungspfad. Bei etwa 230.000 wiedergegebenen Ausgaben im Vergleich zu QEMU gab es keine einzige Abweichung, was die korrekte Funktionsweise der kompilierten CPU bestätigt.

Dieser neuartige Aufbau brachte auch einen konkreten Leistungszuwachs: Im mul_big-Benchmark von DeepMind für große Multiplikationen stieg der Wert von Qwen 3.5 4B von 55 % auf 97,5 %. Diese Verbesserung ist eine direkte Folge der präzisen arithmetischen Fähigkeiten der eingebetteten CPU und keine allgemeine Verbesserung der eigentlichen Schlussfolgerungsfähigkeit des LLM. Weitere technische Details finden Interessierte im Repository des Projekts: GitHub - divagr18/qwenputer: A computer, compiled into the weights of a language model.

Darauf aufbauend kompilierte das Projekt Nesformer ein Nintendo Entertainment System (NES) in Qwen 3.5. Dazu wurden die 6502-CPU des NES, 2 KB RAM und sogar die Daten des Spielmoduls direkt in die Gewichte des Modells eingebettet. Ein schlanker Host verwaltet weiterhin Eingabe, Grafik, Audio und Interrupts. Nesformer führt Super Mario Bros. dennoch erfolgreich aus, wenn auch langsam. Jeder Frame benötigt 1 bis 6 Sekunden Verarbeitungszeit, sodass 10 Sekunden Gameplay etwa 25 Minuten Inferenz erfordern.

Der eigentliche Durchbruch ist nicht die Bildrate#

Das Spektakel von Nesformer, nämlich Super Mario Bros. innerhalb eines LLM, muss richtig eingeordnet werden. Jeder Frame benötigt etwa 1 bis 6 Sekunden zum Rendern. Damit erfordern bereits 10 Sekunden Gameplay rund 25 Minuten Rechenzeit, sodass es als Echtzeit-Emulator nicht praktikabel ist.

Die wahre Bedeutung liegt nicht in der Bildrate, sondern in der zugrunde liegenden technischen Leistung. Die Arbeit zeigt, dass die internen Berechnungen eines LLM deterministisch und exakt sein können, statt von Natur aus unscharf oder erlernt zu sein. Die sorgfältig kompilierten Modellgewichte führen wiederholbare Operationen aus und stellen damit die herkömmliche Sicht auf neuronale Netze als undurchsichtige, probabilistische Systeme infrage.

Dies eröffnet Möglichkeiten für präzisionskritische KI-Workflows. Kompilierte Arithmetik- oder Zustandsautomaten-Blöcke könnten Aufgaben unterstützen, die absolute Genauigkeit erfordern, etwa - Kryptografie - Wissenschaftliche Simulationen - Industrielle Steuerungssysteme

Als Proof of Concept ersetzt dieser Ansatz weder externe Tools noch CPUs. Herausforderungen bleiben bei Integration, Kapazitätsskalierung, Geschwindigkeit und Verifikation. Er legt jedoch nahe, dass künftige LLMs neben ihren erlernten Fähigkeiten fest programmierte Rechenmodule enthalten könnten und damit neue Einsatzfelder erschließen, die sowohl unscharfe Inferenz als auch exakte Ausführung erfordern.