Le nouveau cerveau IA de NVIDIA est 5 fois plus rapide

Nemotron 3 Ultra de NVIDIA n'est pas un simple grand modèle linguistique de plus pour la conversation générale. Au lieu de cela, ce nouveau modèle ouvert puissant sert d'orchestrateur spécialisé pour les agents IA multi-tours complexes. Il permet aux agents de planifier, d'utiliser des outils de manière dynamique et de s'auto-corriger à travers des flux de travail complexes, s'attaquant aux « décisions difficiles » comme la synthèse de preuves contradictoires ou la vérification de conceptions de puces complexes.

Sa capacité repose sur une architecture Mixture-of-Experts (MoE), comprenant 550 milliards de paramètres au total, dont seulement 55 milliards sont actifs par token pendant l'inférence. Cette conception offre un raisonnement de pointe sans le coût de calcul paralysant généralement associé aux modèles denses de qualité comparable. Elle assure une intelligence élevée pour une fraction de l'empreinte computationnelle.

Les benchmarks soulignent l'avantage concurrentiel unique de Nemotron 3 Ultra. Il occupe le « quadrant le plus attractif » du classement Artificial Analysis Intelligence Index, combinant une précision de pointe avec une efficacité considérablement améliorée. De manière cruciale, le modèle atteint un débit 5 fois supérieur à celui des autres modèles ouverts de sa catégorie, permettant aux agents à long terme d'accomplir leurs tâches plus rapidement tout en réduisant les coûts des tâches agentiques jusqu'à 30 %.

L'innovation principale de Nemotron 3 Ultra réside dans son architecture Hybrid Mamba-Transformer. Les couches Mamba gèrent efficacement les contextes longs, améliorant considérablement l'efficacité des séquences pour les charges de travail étendues en réduisant le coût d'attention et l'empreinte du cache KV. De manière cruciale, les couches Transformer traditionnelles sont conservées pour préserver le rappel précis des faits, un équilibre essentiel pour les tâches agentiques complexes et multi-tours exigeant à la fois une mémoire étendue et une récupération précise des données.

NVIDIA a intégré la quantification NVFP4 et la Multi-Token Prediction (MTP) pour une vitesse révolutionnaire. L'optimisation NVFP4 permet à un seul checkpoint de modèle de fonctionner sur les GPU NVIDIA Ampere, Hopper et Blackwell, offrant un débit jusqu'à 5 fois supérieur par GPU par rapport au BF16 sur Blackwell et réduisant la mémoire de poids d'environ 3,3 fois. La MTP augmente encore la vitesse générative en prédisant plusieurs tokens futurs en un seul passage avant, améliorant le débit pour les sorties longues et les flux de travail multi-tours grâce au décodage spéculatif natif.

LatentMoE sert de contrôleur de trafic intelligent du modèle, acheminant les tâches vers les experts spécialisés les plus appropriés au sein du modèle à 550 milliards de paramètres. Contrairement aux approches naïves de Mixture-of-Experts, LatentMoE dirige les tokens basés sur une représentation latente, et non sur des embeddings bruts, atténuant les problèmes de collapse de routage. Ce routage intelligent améliore considérablement la polyvalence de Nemotron 3 Ultra pour des tâches exigeantes, y compris le codage sophistiqué, le raisonnement complexe et l'utilisation précise d'outils.

Nemotron 3 Ultra atteint son génie spécialisé grâce à une méthode d'entraînement innovante : la Multi-Teacher On-Policy Distillation (MOPD). Ce processus implique qu'un modèle étudiant apprend d'un ensemble diversifié de plus de dix modèles « enseignants » spécialisés. Chaque enseignant possède une expertise spécifique à un domaine, allant du raisonnement complexe à l'utilisation d'outils, créant ainsi une équipe de mentors hautement compétente et polyvalente. Le modèle étudiant génère des réponses, que ces enseignants experts évaluent ensuite, fournissant un feedback dense et ciblé.

L'engagement de NVIDIA envers la transparence renforce considérablement l'attrait de Nemotron 3 Ultra pour les initiatives d'IA d'entreprise et souveraines. En publiant ouvertement ses pipelines de données d'entraînement et ses environnements de Reinforcement Learning (RL), NVIDIA offre une provenance et un contrôle sans précédent. Ce niveau d'ouverture est crucial pour les organisations qui exigent une compréhension approfondie et une auditabilité de leurs systèmes d'IA, garantissant la conformité et la fiabilité. Pour ceux qui souhaitent approfondir les capacités de ces systèmes avancés, plus d'informations sont disponibles sur AI Agents: Built to Reason, Plan, Act - NVIDIA.

MOPD permet au modèle étudiant de co-évoluer continuellement avec ses enseignants, favorisant une spécialisation et une amélioration profondes dans plusieurs domaines simultanément. Cet environnement d'apprentissage dynamique permet à Nemotron 3 Ultra d'affiner efficacement ses capacités de raisonnement et d'agent, s'adaptant et excellant dans des tâches diverses et complexes. La boucle de rétroaction itérative garantit que la base de connaissances et l'ensemble de compétences du modèle sont perpétuellement mis à jour et optimisés, ce qui contribue à sa performance supérieure.

Nemotron 3 Ultra se traduit directement par des avantages tangibles pour les développeurs. Il réduit considérablement les coûts d'achèvement des tâches jusqu'à 30 % sur des benchmarks comme SWE-Bench et Terminal-Bench 2.0, rendant les workflows agentiques de longue durée économiquement viables. Cette efficacité permet aux développeurs d'itérer plus rapidement sur des conceptions d'agents complexes et de déployer une intelligence quasi-frontière sur site, répondant aux exigences critiques de confidentialité et de sécurité des données pour les applications d'entreprise sensibles.

NVIDIA présente Nemotron 3 Ultra comme le cœur intelligent d'une pile agentique complète, et non comme un simple modèle autonome. Il s'intègre profondément aux robustes bibliothèques NeMo de NVIDIA, permettant une personnalisation et un déploiement simplifiés du modèle. De plus, sa synergie avec le Hermes Agent et le runtime sécurisé OpenShell fournit un cadre complet pour le développement, l'orchestration et l'exécution d'agents IA sophistiqués et multi-tours, garantissant un fonctionnement fiable et sécurisé.

Cette publication souligne la vision stratégique de NVIDIA : tirer parti de sa dominance matérielle inégalée pour construire une pile logicielle ouverte et haute performance pour la prochaine vague d'IA. Nemotron 3 Ultra défie directement l'hégémonie des modèles propriétaires et fermés et élève le niveau pour les autres leaders de l'open source. NVIDIA se positionne agressivement comme la plateforme indispensable pour le développement d'IA agentique, offrant transparence et puissance pour stimuler l'innovation.

Qu'est-ce que NVIDIA Nemotron 3 Ultra ?

Nemotron 3 Ultra est un modèle de langage Mixture-of-Experts (MoE) à poids ouverts de 550 milliards de paramètres de NVIDIA. Il est spécifiquement conçu pour agir comme un orchestrateur pour les workflows complexes et de longue durée des agents IA, équilibrant le raisonnement de pointe avec des performances rapides et efficaces.

En quoi Nemotron 3 Ultra est-il différent des autres grands modèles ?

Contrairement aux chatbots à usage général, Nemotron 3 Ultra est optimisé pour les tâches agentiques. Ses principaux éléments différenciateurs incluent une architecture hybride Mamba-Transformer pour l'efficacité des contextes longs, la quantification NVFP4 pour la vitesse, et une méthode d'entraînement unique de Multi-Teacher On-Policy Distillation (MOPD) pour le raisonnement spécialisé.

Qu'est-ce qui rend Nemotron 3 Ultra si rapide et efficace ?

Son efficacité provient de plusieurs innovations. La conception MoE n'utilise que 55 milliards de ses 550 milliards de paramètres par token. La quantification NVFP4 permet un débit 5 fois supérieur sur les GPU NVIDIA. Enfin, il est évalué pour accomplir des tâches agentiques en utilisant jusqu'à 30 % de tokens en moins, réduisant directement le coût de calcul.

Nemotron 3 Ultra est-il open source ?

Oui, NVIDIA a publié Nemotron 3 Ultra en tant que modèle entièrement ouvert. Cela inclut les poids du modèle, les pipelines de données d'entraînement et les recettes sous une licence permissive, ce qui est crucial pour les entreprises nécessitant une provenance des données et une personnalisation.