NVIDIAs 20 Milliarden Dollar Schattenübernahme

Ein Flüstern über einen 20-Milliarden-Dollar-Deal von NVIDIA erreichte die Handelsabteilungen wie ein Fehler im Matrix-System. Kein Übernahme-Deal im Stil von Arm, keine saubere Akquisition, sondern eine Zahl so groß, dass sie sofort zum größten Deal des Unternehmens wurde. Größer als jeder GPU-Launch, größer als jeder Gewinn im Bereich Rechenzentrum – dies war das Terrain der Bilanz als Waffe.

Zur Einordnung: Der spektakuläre Kauf von Mellanox durch NVIDIA im Jahr 2019 kostete 6,9 Milliarden Dollar und veränderte den gesamten Markt für Hochleistungsnetzwerke. Diese neue Transaktion macht den Betrag effektiv dreimal so hoch und zielt nicht auf Bandbreite oder Verbindungen, sondern auf das Schlagader von KI-Inferenz. Wenn ein Unternehmen, das bereits mehr als eine Billion Dollar wert ist, 20 Milliarden Dollar für Geschwindigkeit, Latenz und Siliziumexpertise als fairen Preis erachtet, zieht das die Aufmerksamkeit aller auf sich.

Zuerst herrschte Verwirrung. NVIDIA teilte mit, dass es Groq nicht direkt kaufe, dennoch wechselten Beträge in der Größenordnung der gesamten Marktkapitalisierung eines mittelgroßen Chipherstellers den Besitzer. Investoren versuchten, den Deal mit vertrauten Mustern in Einklang zu bringen – M&A, strategische Partnerschaft, Lizenzierung – doch keines passte so recht. In den Schlagzeilen wurde es als Übernahme bezeichnet; die Anwälte von NVIDIA taten dies jedoch sehr vorsichtig nicht.

Die Struktur wirkte fast absichtlich seltsam. NVIDIA stimmte zu, etwa 20 Milliarden Dollar für nicht-exklusive Rechte an Groqs zentralem geistigem Eigentum zu zahlen, plus eine effektive „Acquihire“ seines besten technischen Talents, einschließlich Gründer Jonathan Ross und Präsident Sunny Madra. Groq, das Unternehmen, würde unter neuer Leitung weiterhin bestehen, während Groqs LPU-Architektur und die meisten seiner Chip-Assets in den Einflussbereich von NVIDIA übergingen.

Diese Asymmetrie schürte das frühe Gefühl von Mysterium. Warum Geld in Höhe von Übernahmepreisen ausgeben, ohne die vollständige Kontrolle zu übernehmen oder eine klare Fusion auszulösen? Warum GroqCloud und Teile des Unternehmens außen vor lassen, während man die Köpfe und die Pläne aufnimmt? Für viele Außenstehende schien es, als hätte NVIDIA einen überhöhten Preis für die Hälfte eines Unternehmens gezahlt.

Unter dem Lärm begann eine andere Geschichte sichtbar zu werden: ein regulatorischer Judo-Move verbunden mit einer strategischen Landnahme. Indem NVIDIA einen klaren Aufkauf vermeidete, umging es die Art von Antitrust-Prüfung, die seinen 40 Milliarden Dollar schweren Versuch, Arm zu erwerben, zum Scheitern brachte. Gleichzeitig sicherte es sich im Stillen die Menschen, das geistige Eigentum und den Fahrplan, die benötigt werden, um die nächste Phase der KI zu dominieren: Inferenz mit erschreckender Geschwindigkeit und im großen Maßstab.

Jensen Huang hat Groq nicht gekauft, sondern vielmehr umgebaut. NVIDIA investiert etwa 20 Milliarden Dollar in ein Paket, das eine umfassende, nicht-exklusive Lizenz für Groqs Kern-IP mit einem altmodischen Silicon Valley Acquihire seines geistigen Eigentums kombiniert. Auf dem Papier überlebt Groq. In der Praxis kreisen seine wertvollsten Ressourcen nun um das Schwerefeld von NVIDIA.

Anstatt Groqs Kapitalstruktur und Unternehmenshülle zu übernehmen, lizenzierte NVIDIA dessen LPU-Architektur, Compiler-Stack und wichtige Designpatente. Dieses geistige Eigentum ist mit langfristigen Zugriffsrechten verbunden, die NVIDIA alles bieten, was es braucht, um Groqs Konzepte für Inferenz-Silizium in zukünftige Produktlinien zu integrieren. Die nicht-exklusive Formulierung hält Groq technisch frei, woanders Lizenzen zu vergeben, doch mit dem Weggang der Erfinder wirkt diese Option eher theoretisch als real.

Diese Struktur überträgt NVIDIA die technologischen Kronjuwelen von Groq, ohne die rechtlichen Fallstricke auszulösen, die den ARM-Deal scheitern ließen. Regulierungsbehörden in den USA, der EU und dem Vereinigten Königreich haben bereits tiefgehende Bedenken hinsichtlich der Dominanz von NVIDIA im Bereich der KI-Berechnungen geäußert. Eine direkte Übernahme eines schnell aufsteigenden Konkurrenten im Bereich der Inferenz hätte mehrjährige Ermittlungen, Verhaltensanpassungen oder sogar ein vollständiges Verbot zur Folge gehabt.

Im Gegensatz dazu rutschen IP-Lizenzierungen und Talentewechsel normalerweise unter dem Antitrust-Radar als „gewöhnliche Geschäftstransaktionen“. Keine Kontrolleänderungsanzeige, keine Abstimmung der Aktionäre, keine Fusion, die rechtlich angefochten werden könnte. NVIDIA kann plausibel argumentieren, dass es keinen Konkurrenten vom Markt genommen hat; Groq existiert weiterhin, betreibt nach wie vor GroqCloud und kann theoretisch immer noch Chips herstellen.

Die menschliche Seite des Deals lässt dieses Argument akademisch erscheinen. Groq-Gründer Jonathan Ross, der Ingenieur hinter sowohl Googles TPU als auch Groqs LPU, wechselt zu NVIDIA. Präsident Sunny Madra und eine entscheidende Gruppe von Groqs Architektur-, Compiler- und Systemteams werden Berichten zufolge ihn begleiten. Das, was bei Groq bleibt, sieht eher wie eine Marke und ein Cloud-Dienst aus als wie ein Unternehmen für vollintegrierte Siliziumlösungen.

Strategisch erhält Huang genau das, was Regulierungsbehörden befürchtet hatten: eine straffere Kontrolle über den KI-Inferenzstapel ohne die Dokumentation einer klassischen Fusion. NVIDIA erweitert seinen Einflussbereich von GPU-Training hin zu ultra-niedrig-latenter Inferenz, ausgestattet mit den Designs von Groq und den Personen, die wissen, wie man sie weiter vorantreibt.

Jonathan Ross hat seine Karriere auf einer einfachen, brutalen Einsicht aufgebaut: Latenz tötet KI. Bei Google verwandelte er dieses Mantra in Silizium und leitete das Team, das die Tensor Processing Unit (TPU) entwickelte, den maßgeschneiderten Beschleuniger, der leise das Rückgrat von Google Suche, Übersetzung, Fotos und YouTube-Empfehlungen wurde. Die TPU-Implementierungen belaufen sich mittlerweile auf Millionen von Chips, die täglich Billionen von Inferenzoperationen in Googles Rechenzentren ausführen.

Ross hat nicht nur einen schnellen Chip entworfen; er hat das gesamte System rund um Matrizenmathematik neu konzipiert. TPUs haben die dichte lineare Algebra von CPUs und GPUs entlastet, wodurch es Google ermöglicht wurde, Modelle in einem Maßstab zu trainieren und bereitzustellen, der mit allgemeiner Hardware wirtschaftlich unmöglich gewesen wäre. Dieser Erfolg hat ihn als einen der wenigen Ingenieure etabliert, die bewiesen haben, dass sie die Wirtschaftlichkeit von Hyperscalern mit einer einzigen Architekturentscheidung beeinflussen können.

Dann verließ er das Unternehmen. Ross gründete Groq mit einer schärferen These: einen Prozessor zu bauen, der nicht für Grafik, nicht einmal für generische KI, sondern für die rohe Geschwindigkeit von Sprache und Inferenz gedacht ist. Anstelle des komplexen, massiv parallelen GPU-Modells verwendet Groqs Language Processing Unit (LPU) eine deterministische, einkernige, extrem breite Architektur, die neuronale Netzwerke wie ein Förderband ausführt. Keine Caches, minimale Verzweigungen, prädestiniertes Zeitmanagement.

Groqs Hardware- und Compiler-Stack verfolgte ein Ziel: Token pro Sekunde. Öffentliche Demos zeigten, dass Groq-LPUs große Sprachmodell-Ausgaben mit Hunderten von Tokens pro Sekunde und Nutzer streamten, oft 2–3 mal schneller als vergleichbare, GPU-basierte Systeme bei ähnlichem Energieverbrauch. Bei latenzsensiblen Arbeitslasten – Handel, Conversational Agents, Echtzeit-Copiloten – wandelt sich dieser Unterschied direkt in Umsatz und Nutzerbindung um.

Deshalb sitzt Ross im Mittelpunkt von NVIDIA's 20 Milliarden-Dollar-Wette. Jensen Huang lizenziert nicht nur IP; er importiert effektiv den Geist, der Google in ein TPU-zentrales Unternehmen verwandelt hat und dann eine rivalisierende Inferenz-Engine von Grund auf neu entwickelt hat. Exklusiv: Nvidia kauft die Vermögenswerte des KI-Chip-Startups Groq für etwa 20 Milliarden Dollar in unserem größten bisher verzeichneten Deal unterstreicht, dass dies der größte Deal von NVIDIA aller Zeiten ist und den Erwerb von Mellanox für 6,9 Milliarden Dollar überschattet.

NVIDIA dominiert bereits das Training mit GPUs. Ross bietet einen glaubwürdigen Weg, auch die Inferenz zu dominieren, indem er GPU-Ökosysteme mit der Deterministik im LPU-Stil und Compiler-Disziplin verbindet. Man gibt nicht einfach 20 Milliarden Dollar für eine Lizenz und ein Acquihire aus, es sei denn, man glaubt, dass der Architekt, den man engagiert, die nächste Dekade des Siliziums definieren kann.

GPUs wurden geboren, um Pixel darzustellen. Grafikprozessoren sind hervorragend darin, Tausende von parallelen mathematischen Problemen auf einen Bildschirm zu werfen, ideal für 3D-Spiele und später für die Verarbeitung enormer KI-Trainingsläufe. Sie behandeln alles – Raytracing, Matrixmultiplikationen, Physik – wie eine weitere peinlich parallele Arbeitslast.

LPUs kehren diese Logik um. Groqs Language Processing Unit ist kein universelles Zahlengemischgerät; sie ist ein fest verdrahteter Schnellweg für die Ausführung großer Sprachmodelle zur Inferenzzeit. Während GPUs viele Arbeitslasten mit komplexer Planung jonglieren, führt eine LPU ein einziges, hoch vorhersehbares Programm so schnell und konsistent aus, wie es die Physik erlaubt.

Betrachten Sie eine GPU als eine weitläufige Universitätsbibliothek. Das Training eines Modells ähnelt intensiver Forschung: Millionen von Seiten durchforsten, Quellen abgleichen, Hypothesen überarbeiten und wochenlang auf Tausenden von GPUs iterieren. Flexibilität ist wichtiger als roher Determinismus, denn jeder Trainingslauf verändert den „Lehrplan“.

Ein LPU verhält sich wie eine hyper-optimierte Suchmaschine, die auf diese fertige Bibliothek ausgerichtet ist. Das Modell ist bereits trainiert; Inferenz ist der Akt, eine Frage zu stellen und Tokens zurückzuströmen. Ihnen sind Latenz, Durchsatz und Kosten pro Abfrage wichtig, nicht das tägliche Umgestalten der Regale.

Sprachmodelle machen diesen Unterschied noch deutlicher. Transformer generieren Text tokenweise, in einer strengen Sequenz: Token N+1 hängt von den Tokens 1 bis N ab. Diese Abhängigkeitskette wirkt feindlich gegenüber Parallelität, ist jedoch unglaublich vorhersehbar – dasselbe Diagramm, dasselbe Gedächtnismuster, derselbe Kontrollfluss für Milliarden von Anfragen.

Die Architektur von Groq nutzt diese Vorhersagbarkeit. Anstatt Speicherverzögerungen mit großen Thread-Pools wie bei einer GPU zu verbergen, legt ein LPU das gesamte Modell als einen statischen Datenfluss auf dem Chip aus und verwandelt jeden Token-Schritt in eine zeitgesteuerte Pipeline-Stufe. Kein Cache-Roulette, keine Warp-Divergenz, sondern ein Förderband aus Matrixmultiplikationen und Softmax-Funktionen.

NVIDIA sieht den Auftrag auf der Bilanz. Das Training hat die erste Billionen-Dollar-Welle erzeugt, aber die Inferenz wird sie überwältigen, da jede Suchbox, jeder Kundenservice-Chat und jede Produktivitäts-App beginnt, Modelle Millionen von Malen pro Sekunde anzusprechen. Der Umsatz wächst mit den Abfragen, nicht damit, wie oft Sie GPT-Next trainieren.

Der GPU-König hat sich in die Sache eingekauft, die die GPU-Hoheit bedroht. Durch die Ausgaben von rund 20 Milliarden Dollar für nicht-exklusive Rechte an Groqs LPU-IP und die Einbindung von Jonathan Ross und seinem Team sichert sich NVIDIA gegen eine Zukunft, in der Hyperscaler auf spezialisierte Inferenzsilizium setzen. Besser, die siegreiche Architektur zu besitzen, als ein schwindendes Monopol auf die Chips von gestern zu verteidigen.

Fragen Sie eine KI eine Frage, erhalten Sie in wenigen hundert Millisekunden eine Antwort – das ist Inference. Training ist das teure Bootcamp, in dem ein Modell lernt; Inference ist jedes Mal, wenn dieses Modell seine Aufgabe erfüllt: Code schreiben, Besprechungen zusammenfassen, Videos erzeugen oder ein Auto fahren. Es ist die „Machen“-Phase der KI, und sie endet niemals, sobald ein Modell veröffentlicht wird.

Ein Grenzmodell könnte einmal oder ein paar Mal auf einem Supercomputer trainiert werden, aber es kann in seiner Lebensdauer Milliarden oder Billionen von Anfragen bedienen. OpenAIs ChatGPT, Googles Gemini und Metas Llama-basierte Dienstleistungen verarbeiten bereits täglich Zehntausende von Anfragen. Im großen Maßstab übersteigt die Anzahl der Inferenzläufe die Trainingszyklen um mehrere Größenordnungen.

Diese Asymmetrie verwandelt Inferenz in die wahre Geldmaschine. Jeder Chat, jede Suche, jedes Kundenserviceticket und jede von KI generierte Anzeige dreht die Inferenzschnur. Cloud-Anbieter berechnen bereits pro 1.000 Token oder pro API-Aufruf, und Unternehmensimplementierungen messen die interne Nutzung auf dieselbe Weise, indem sie rohe Rechenzyklen in wiederkehrende Einnahmen umwandeln.

NVIDIA versteht, dass whoever die Inferenz kontrolliert, die Abonnement-Ebene der KI-Wirtschaft kontrolliert. Training ist unregelmäßiges Investitionskapital: riesige einmalige GPU-Cluster, über Monate amortisiert. Inferenz verhält sich wie SaaS: vorhersehbar, nutzungsbasiert und eng mit dem Nutzerwachstum verbunden. Wenn KI in Office-Dokumente, CRM-Systeme und Benutzeroberflächen von Smartphones eindringt, steigen die Inferenzvolumina – und die Rechnungen – mit jedem Klick.

Der Besitz der besten Inferencerhardware bedeutet, die Betriebsmargen jedes KI-Dienstes, der darauf basiert, zu bestimmen. Wenn Ihr Chip ein Modell fünfmal schneller und mit der Hälfte des Energieverbrauchs betreibt, können Sie entweder Ihre Konkurrenten im Preis unterbieten oder den Unterschied als Gewinn einstreichen. Diese Kostenunterschied entscheidet, ob eine KI-Suchanfrage 0,01 USD oder 0,0001 USD kostet, was den Unterschied zwischen einer coolen Demo und einem nachhaltigen Produkt ausmacht.

Groqs LPU-Architektur zielt genau auf dieses Engpassproblem ab: ultra-niedrige Latenz und deterministische Inferenz in riesigem Maßstab. Indem NVIDIA nicht-exklusive Rechte an Groqs IP sichert und Jonathan Ross sowie sein Team verpflichtet, kauft sich das Unternehmen eine Zukunft, in der sein Silizium nicht nur die Modelle trainiert, sondern auch die Billionen von Inferenzvorgängen, die folgen.

Die Zahlen machten Groq für NVIDIA unmöglich zu ignorieren. Bei öffentlichen LLM-Benchmarks wie Llama 2 und Mixtral erzielten Groqs LPU-Systeme konsequent eine etwa 2–3-fache schnellere Inferenz im Vergleich zu hochmodernen GPU-Clustern bei ähnlichen oder niedrigeren Energiebudgets. Demopräsentationen zeigten eine End-to-End-Latenz von unter 20 ms für Modelle mit 7B–13B Parametern, während GPU-Stacks oft zwischen 50–150 ms liegen, wenn man Netzwerk- und Batch-Überhead einbezieht.

Diese rohe Geschwindigkeit wirkt sich direkt auf das Benutzererlebnis aus. Ein Chatbot, der in 30 ms statt in 100 ms antwortet, fühlt sich weniger wie ein Webformular und mehr wie ein lebendiges Gespräch an. Echtzeitübersetzung klingt nicht mehr wie ein synchronisierter Film, sondern verhält sich wie ein menschlicher Dolmetscher, wobei jeder Satz nahezu gleichzeitig ankommt, sobald er deinen Mund verlässt.

Für KI-Agenten ist Latenz wie Sauerstoff. Ein Agent, der 20 Tool-Aufrufe auf GPUs hintereinander schaltet, benötigt möglicherweise mehrere Sekunden, um eine Aufgabe abzuschließen; beim LPU von Groq kann derselbe Arbeitsablauf auf unter eine Sekunde komprimiert werden. Dieser Unterschied entscheidet darüber, ob ein KI-Assistent einen Live-Verkaufsgespräch führen, in einem Mehrspieler-Spiel verhandeln oder ein Schwarm von Robotern koordinieren kann, ohne gegen die Möbel zu krachen.

Diese Zahlen schufen eine auffällige Verwundbarkeit für NVIDIA. Wenn Hyperscaler oder Open-Source-Plattformen auf Groq für Inferenz standardisieren, würden GPU-intensive Rechenzentren das Risiko laufen, zu reinen Trainings-Relikten zu werden. NVIDIAs 20-Milliarden-Dollar-Schritt neutralisierte effektiv eine Zukunft, in der ein rivalisierender Silizium-Stack die Inferenz-Schicht besaß, die wiederkehrende Einnahmen generiert.

Anwendungsfälle mit niedriger Latenz zeigen Groqs Vorteil am deutlichsten: - Hochfrequenzhandel und Market Making - Autonome Fahrzeuge und Drohnen - Live-Kundenservice und Call-Center - Mehrspieler-Gaming und interaktives Streaming - Industrielle Steuerung und Robotik

Analysten haben diese Bedrohung frühzeitig erkannt, und Berichterstattungen wie Nvidia lizenziert Groq-Inferenztechnologie, Groq-Führungskräfte treten dem Chip-Hersteller bei unterstreichen, wie strategisch NVIDIA gehandelt hat, um Groqs IP und Talente in seine Sphäre zu ziehen.

Regulierungsbehörden in Washington, Brüssel und Peking umkreisen NVIDIA derzeit wie Haie. Das Unternehmen kontrolliert bereits schätzungsweise 70–80% des Marktes für KI-Beschleuniger, und Aufsichtsbehörden blockierten oder zerschlugen sogar Geschäfte, die weit kleiner waren als ein direkter Kauf von Groq. Nach dem gescheiterten Angebot über 40 Milliarden Dollar für Arm und der anhaltenden Prüfung durch die EU und die FTC schien eine saubere Übernahme eines direkten Konkurrenzunternehmens automatisch in einem Antitrust-Gerichtsverfahren zu enden.

NVIDIA umging die offensichtliche Falle. Anstatt Groq zu kaufen, zahlte es etwa 20 Milliarden Dollar für eine nicht-exklusive Lizenz an Groqs zentralem LPU-IP und stellte gleichzeitig Jonathan Ross und einen Großteil seines Senior-Teams ein. Groq, die Unternehmenshülle, überlebt; die Köpfe und Pläne befinden sich jetzt bei NVIDIA.

Rechtsanwälte würden dies als eine Lizenz- und Beschäftigungstransaktion und nicht als eine Fusion bezeichnen. Aufsichtsbehörden, die an die aktuellen Gesetze gebunden sind, haben Schwierigkeiten, IP-Lizenzen und das Abwerben von Talenten als Konzentrationsereignisse zu behandeln, selbst wenn die strategische Wirkung einer Übernahme ähnelt. Keine Kontrolle über den Eigentümerwechsel, keine klassische Fusionsprüfung, kein übersichtliches HHI-Diagramm, das einen Wettbewerber weniger zeigt.

Strukturell hat NVIDIA nahezu alles erreicht, was ein blockierter Kauf geliefert hätte. Das Unternehmen sicherte sich langfristigen Zugang zu Groqs Instruktionssatz, Compiler-Stack und Hardware-Designs sowie das Humankapital, das weiß, wie man sie weiterentwickelt. Groq behält sich theoretisch das Recht vor, sein IP anderswo zu lizenzieren, aber jeder Rivale startet jetzt zumindest 18–24 Monate hinter einem NVIDIA-Fahrplan, der Groqs Technologie bereits integriert.

Das Label „nicht-exklusiv“ erfüllt eine wichtige rechtliche Funktion, während es praktische Asymmetrien verschleiert. NVIDIA kann im Voraus zahlen, gemeinsam entwickeln und Groq-abgeleitete Bausteine eng in zukünftige Inferenzprodukte integrieren, wodurch sein CUDA-Ökosystem und die Netzwerkstruktur um diese herum optimiert werden. Ein nachkommender Lizenznehmer würde mit folgenden Herausforderungen konfrontiert sein:

• 1Kein Zugang zum ursprünglichen Kernteam
• 2Ein sich bewegendes Ziel, während NVIDIA die Architektur weiterentwickelt.
• 3Kundenbindung an NVIDIAs Software- und Cloud-Stack

Dieses Regelwerk setzt einen gefährlichen Präzedenzfall. Große Tech-Unternehmen können jetzt de facto Übernahmen durch IP-Lizenzen, exklusive Integrationen und massenhafte Übernahmen von Talenten tätigen, die so strukturiert sind, dass sie außerhalb der klassischen Merger-Definitionen fallen. Das Antitrust-Recht, das immer noch für Eisenbahnen und Telekommunikationsunternehmen ausgelegt ist, wurde gerade von einem Unternehmen überlistet, das Code und Verträge gleichermaßen gut versteht.

Groq wacht am Morgen nach einem 20-Milliarden-Dollar-Deal als Paradoxon auf: ein plötzlich cash-reicher, strategisch wichtiger Akteur, der gerade sein Gehirn verloren hat. Der neue CEO Simon Edwards leitet nun ein Unternehmen, dessen zentrale Chip-IP unter einer nicht-exklusiven Lizenz bei NVIDIA steht, während die meisten derjenigen, die sie entworfen haben, jetzt grüne Jacken in Santa Clara tragen.

Groqs verbleibender Kronjuwel ist GroqCloud, die gehostete Inferenzplattform, die seine LPU-Hardware als API bereitstellt. Dieser Service hat bereits Entwickler mit Demos von 2–3x geringerer Latenz bei der Inferenz großer Sprachmodelle im Vergleich zu GPU-Stacks angezogen, und er kontrolliert weiterhin seine Kundenbeziehungen, Abrechnung und Roadmap. In einem Markt, in dem jeder Rechenleistung nach Token und nicht nach Transistor mietet, ist diese Abstraktionsschicht von Bedeutung.

Doch GroqCloud agiert jetzt in einem seltsamen Wettbewerbsumfeld. NVIDIA kann dasselbe lizensierte LPU-IP über seine eigenen Cloud-Partner und DGX-Plattformen bereitstellen, während Groq versucht, sich durch Software, Werkzeuge und die Entwicklererfahrung abzugrenzen. Wenn NVIDIA die Preise senkt oder LPU-basierte Inferenz mit seinen bestehenden GPU-Angeboten bündelt, läuft GroqCloud Gefahr, zur Boutique-Version seiner eigenen Technologie zu werden.

Die Anziehungskraft von Talenten stellt ein noch größeres Problem dar. Jonathan Ross, Sunny Madra und eine kritische Masse an erfahrenen Architekten befinden sich jetzt im Organigramm von NVIDIA und nicht von Groq. Die Rekrutierung von erstklassigen Silizium- und Systemingenieuren in ein Unternehmen, das gerade gesehen hat, wie sein prägendes geistiges Eigentum davongelaufen ist, wird eine überzeugende neue These erfordern, nicht die Nostalgie für die Glanzzeiten der LPU.

Groq kann versuchen, sich in eine reine KI-Inferenzplattform zu entwickeln, die sich auf höhere Abstraktionen konzentriert: verwaltete Laufzeiten, ultra-niedrige Latenz-Streaming, spezialisierte Workloads wie Finanztickdaten oder Mehrspieler-Spiele. Es könnte auch Kunden im Edge-Bereich und vor Ort ansprechen, die Hyperscaler misstrauen und einen kleineren, flexibleren Anbieter wünschen.

Die langfristige Existenzfähigkeit hängt davon ab, ob Groq etwas wirklich Neues liefern kann, das NVIDIA nicht sofort kopieren oder besser vertreiben kann. Wenn GroqCloud lediglich ein markenbildender Front-End für Technologie wird, die NVIDIA effektiv kontrolliert und global vermarktet, droht Groq zu einer historischen Randnotiz zu werden – ein cleverer regulatorischer Umgehungsversuch auf dem Weg von NVIDIA zur Dominanz im Bereich der Inferenz. Wenn es Edwards gelingt, diese awkward Unabhängigkeit in ein Labor für schnellere, merkwürdigere Ideen zu verwandeln, könnte Groq im nächsten Hardware-Zyklus dennoch von Bedeutung sein.

NVIDIA hat gerade aufgehört, vorzugeben, ein GPU-Unternehmen zu sein. Eine Wette in Höhe von 20 Milliarden Dollar auf Groqs LPU-Architektur, strukturiert als Lizenzvereinbarung plus Talentraub, signalisiert einen Richtungswechsel hin zu einem Eigentum an jedem kritischen Segment von KI-Silizium, vom ersten Token bis zur endgültigen Antwort. GPUs haben den KI-Boom ermöglicht; hyper-spezialisierte Beschleuniger sind der Weg, wie NVIDIA plant, seinen zweiten Akt zu dominieren.

Anstelle eines einmaligen Pokalvertrags sieht das wie Phase eins eines umfassenderen AI-Silikon-Ressourcenkampfes aus. NVIDIA verkauft bereits H100s und B200s für das Training, Grace Hopper für speichergebundene Arbeitslasten und Netzwerksilizium aus der Übernahme von Mellanox. Groqs IP füllt das fehlende Puzzlestück: ultraniedrige Latenz und deterministische Inferenz in großem Maßstab.

Rivalen haben dieses Spiel intern seit Jahren gespielt. Google hat TPUs entwickelt, um GPU-Engpässe in seinen Rechenzentren zu umgehen. Amazon hat Trainium und Inferentia eingeführt, um die Kosten bei AWS zu optimieren. Apples Neural Engine verwandelte jedes iPhone in eine On-Device-Inferenzbox. NVIDIA's Schritt signalisiert: Anstatt Arbeitslasten an diese maßgeschneiderten Chips zu verlieren, wird es sie mit seinem eigenen spezialisierten Portfolio konkurrieren.

NVIDIA verfolgt nun eine Strategie, die weniger nach „GPUs überall“ aussieht und mehr wie ein Menü von Silicon für jede Phase der KI: - Training: Hochdurchsatz-GPUs und GPU-nahe Beschleuniger - Feintuning: speicheroptimierte, gemischte Präzisionskomponenten - Inferenz: LPUs und andere latenzfokussierte Designs - Netzwerk und Interkonnektivität: NVLink, InfiniBand, maßgeschneiderte Switches

Die Inferenzökonomie treibt diesen Wandel voran. Das Training erfolgt gelegentlich; die Inferenz läuft rund um die Uhr, über Milliarden von Anfragen. Die gemeldeten 2–3-fachen Geschwindigkeitssteigerungen von Groq bei wichtigen Inferenzbenchmarks, kombiniert mit deterministischer Ausführung, führen direkt zu niedrigeren Kosten pro Token und höheren Gewinnmargen für Cloud-Anbieter und Unternehmen.

Regulierungsbehörden könnten eine Lizenzvereinbarung sehen; die Kunden werden einen einheitlichen NVIDIA-Hardware-Fahrplan sehen. Indem NVIDIA Jonathan Ross und viele der Spitzeningenieure von Groq ins eigene Haus holt und gleichzeitig nicht-exklusive IP lizenziert, gewinnt NVIDIA die Köpfe und die Pläne, ohne einen umfassenden Antitrust-Konflikt auszulösen. Groq bleibt als Marke erhalten, aber NVIDIA kontrolliert das gravitative Zentrum.

NVIDIA vertieft auch seinen Wettbewerbsvorteil als die „Standardwahl“ für KI-Infrastruktur. Wenn es gelingt, einen einheitlichen Software-Stack – CUDA, TensorRT, Triton – über GPUs, LPUs und was auch immer als Nächstes kommt, anzubieten, wird der Wechsel zu Google TPU, AWS Trainium oder maßgeschneiderten ASICs noch schwieriger. Hardware-Vielfalt, Software-Abhängigkeit.

Vor diesem Hintergrund liest sich der Groq-Deal weniger wie Opportunismus und mehr wie das Schreiben einer Verfassung. NVIDIA positioniert sich als die grundlegende Hardware-Schicht der KI, das Silizium-Substrat unter jedem Chatbot, Copilot und autonomen Agenten. Für alle, die das Kleingedruckte verfolgen, ist NVIDIA kündigt strategische Lizenzvereinbarung mit Groq zur Beschleunigung der KI-Inferenz an weniger eine Pressemitteilung als eine Erklärung eines Imperiums.

Ihre KI-Apps haben gerade leise einen Plan erhalten, um ihre Ladebalken loszuwerden. NVIDIAs 20-Milliarden-Dollar-Groq-Deal zielt auf genau den Moment ab, in dem Sie KI spüren: die Pause zwischen dem Drücken der Eingabetaste und dem Erhalt einer Antwort. Diese Pause ist Inference, und Groqs LPU-Architektur wurde entwickelt, um sie zu eliminieren.

Die heutigen größten Modelle reagieren oft in 30–800 ms pro Token, abhängig von Hardware und Netzwerk. Die Hardware von Groq hat bereits eine 2–3-fach schnellere Inferenz bei wichtigen Benchmarks demonstriert, wobei einige öffentliche Demos Tokens mit Hunderten von Tokens pro Sekunde streamen. Kombiniert man das mit dem Stack von NVIDIA, erhält man Chatbots, die sich weniger wie eine Website und mehr wie ein Gespräch anfühlen.

Echtzeit-Assistenten hören auf, ein Marketingbegriff zu sein, und verhalten sich wie ein Systemaufruf. Stellen Sie sich vor: - Ein Sprachassistent, der in weniger als 50 ms antwortet und von einem menschlichen Eingriff nicht zu unterscheiden ist - Live-Übersetzungen, die mit schneller Sprache Schritt halten, ohne unangenehme Pufferzeiten - NPCs im Spiel, die Dialoge und Strategien in jedem Frame improvisieren, nicht nur in jeder Szene

On-Device-KI wird als Nächstes profitieren. Während NVIDIA Groq-ähnliche Inferenz auf effizientere Siliziumchips vorantreibt, können Sie mehr Aufgaben von Cloud-GPUs auf lokale Chips auslagern. Das bedeutet, dass komplexe Zusammenfassungen, die Suche in mehreren Dokumenten oder Video-Verständnis auf einem Laptop, einer Konsole oder einem Armaturenbrett eines Autos mit nahezu null wahrnehmbarer Latenz ausgeführt werden können.

Entwickler erhalten das größte kreative Potenzial. Wenn die Latenz von hundert Millisekunden auf Zehntel sinkt, können Sie mehr Modelle miteinander verknüpfen, mehr Agenten parallel ausführen und enge Interaktionsschleifen aufrechterhalten, ohne dass die Nutzer abspringen. Ganze Kategorien – KI-Co-Piloten in IDEs, Echtzeit-Rechercheassistenten, adaptive Tutoring-Systeme – wirken plötzlich skalierbar und nicht mehr wie technische Demos.

Eine niedrigere Latenz wirkt sich auch auf die Kosten aus. Schnellere, spezialisierte Inferenz-Silicium bedeutet mehr Abfragen pro Watt und pro Dollar. Das ermutigt Entwickler, Funktionen bereitzustellen, die zu teuer wären, um sie „ständig aktiviert“ zu halten, wie beispielsweise Hintergrundüberlegungen, kontinuierliche Dokumentenüberwachung oder persistente NPC-Speicherung in riesigen Online-Welten.

Der Wettbewerb wird nicht stillstehen. AMD, Intel, Google und eine Schwemme von Startups haben jetzt ein 20-Milliarden-Dollar-Signal, dass ultra-schnelle Inferenz das Schlachtfeld ist. Dieses Wettrüsten im KI-Hardware-Bereich wird nicht nur die Modelle intelligenter machen; es wird die wirklich sofortige, allgegenwärtige KI Jahre früher als geplant in die gängigen Geräte bringen.

Hat NVIDIA tatsächlich das Unternehmen Groq gekauft?

Nein. NVIDIA hat eine Vereinbarung über 20 Milliarden Dollar getroffen, um Groqs IP nicht-exklusiv zu lizenzieren und dessen Schlüsselpersonal, einschließlich des Gründers Jonathan Ross, einzustellen. Dies ermöglicht es Groq, ein unabhängiges Unternehmen zu bleiben, um hauptsächlich antitrustrechtliche Vorschriften zu vermeiden.

Was ist ein Groq LPU und wie unterscheidet es sich von einer NVIDIA GPU?

Eine LPU, oder Language Processing Unit, ist ein spezieller Chip, der speziell für die KI-Inferenz entwickelt wurde – die Aufgabe, KI-Modelle auszuführen, um Antworten zu erhalten. GPUs sind allgemeiner ausgelegt und haben traditionell beim KI-Training, einem anderen, rechenintensiveren Prozess, hervorragende Leistungen erbracht.

Warum ist KI-Inferenz für den Umsatz wichtiger als KI-Training?

Während das Training eines Modells eine massive einmalige oder gelegentliche Aufgabe ist, geschieht die Inferenz jedes Mal, wenn ein Benutzer eine Frage stellt oder eine KI-Funktion nutzt. Da Milliarden von Menschen täglich KI verwenden, wird die Anzahl der Inferenzoperationen exponentiell die Trainingsoperationen übersteigen und damit zur größten Quelle für skalierbaren, langfristigen Umsatz werden.

Wer ist Jonathan Ross?

Jonathan Ross ist der Gründer von Groq und der Erfinder der LPU-Technologie. Bevor er Groq gründete, war er ein wichtiger Ingenieur bei Google, wo er die Tensor Processing Unit (TPU) erfand, Googles eigenen benutzerdefinierten KI-Chip.