Skip to content

Grok 4.5 : Codeur brillant ou tricheur de benchmark ?

SpaceXAI vient de lancer Grok 4.5, un modèle revendiquant des performances de pointe pour une fraction du coût. Mais un examen plus approfondi de ses scores de benchmark époustouflants révèle une controverse de contamination qui remet tout en question.

Nora Vance
Hero image for: Grok 4.5 : Codeur brillant ou tricheur de benchmark ?

En bref / Points clés

  • SpaceXAI vient de lancer Grok 4.5, un modèle revendiquant des performances de pointe pour une fraction du coût.
  • Mais un examen plus approfondi de ses scores de benchmark époustouflants révèle une controverse de contamination qui remet tout en question.

Le Blitzkrieg des Benchmarks

Grok 4.5 a atterri, arrivant avec une avalanche de révélations fracassantes qui viennent de choquer la communauté de l'IA. Ce nouveau modèle afficherait des scores qui surpassent des concurrents de premier plan comme Opus 4.8 Max sur des benchmarks d'ingénierie logicielle spécialisés tels que DeepSWE. Ses performances sur DeepSWE 1.0, par exemple, indiquent une intelligence de niveau pionnier pour les tâches logicielles et d'ingénierie, rendant ces affirmations particulièrement percutantes.

Un point fort remarquable est la performance de Grok 4.5 sur Terminal-Bench, un test crucial évaluant la capacité d'une IA à opérer une véritable interface en ligne de commande comme un ingénieur DevOps expérimenté. Contrairement à l'édition de code statique, ce benchmark exige que l'IA utilise un vrai shell pour accomplir des tâches. Grok 4.5 égalerait ici un niveau de capacité 'GPT 5.5', démontrant une impressionnante prouesse pratique avec un score de 83,3 % sur Terminal-Bench 2.1, surpassant significativement Opus 4.8 Max.

Au-delà du pur codage, Grok 4.5 réalise également un impressionnant 29 % sur le benchmark GDPVal. Ce benchmark évalue le travail professionnel réel, où Grok 4.5 surpasse à la fois GPT-5.5 (22 %) et Opus 4.8 (21 %). Ces résultats suggèrent un fort potentiel d'application pratique dans des environnements professionnels, et pas seulement lors de tests de laboratoire académiques. L'efficacité et le coût réduit du modèle, selon les rapports, rendent l'offre encore plus attrayante pour les utilisateurs.

IA de pointe pour une fraction du coût

Le prix de Grok 4.5 est sans doute sa caractéristique la plus disruptive, et vient de choquer la communauté de l'IA. À seulement 2 $ en entrée et 6 $ en sortie par million de tokens, il sous-cote drastiquement les concurrents offrant des performances de niveau pionnier similaires, souvent de cinq à dix fois. Par exemple, les modèles atteignant une performance comparable de 80 % sur des benchmarks comme Terminal-Bench peuvent exiger 5 $ en entrée et 30 $ en sortie par million de tokens.

Cette stratégie de prix agressive positionne Grok 4.5 de manière unique sur un indice "Intelligence vs Coût". Le modèle se situe clairement dans le cadran 'le plus attractif', promettant le meilleur rapport qualité-prix. Cela signifie que vous obtenez une intelligence de haut niveau sans le coût premium, une victoire significative pour les développeurs et les entreprises.

Au-delà du coût, Grok 4.5 privilégie la vitesse et l'efficacité. Le modèle est servi à une vitesse rapide de 80 tokens par seconde (TPS), et affiche une efficacité de tokens jusqu'à quatre fois supérieure à celle des modèles leaders comme Opus 4.8. Cela se traduit directement par moins de gaspillage computationnel et des résultats plus rapides lors de l'exécution de tâches d'ingénierie logicielle complexes, améliorant la productivité et réduisant les dépenses opérationnelles.

L'astérisque sur le score 'parfait'

La performance apparemment sans faille de Grok 4.5 sur le Cursor Bench, un benchmark conçu pour tester les modèles d'IA sur des tâches de base de code complexes et réelles, a immédiatement soulevé un signal d'alarme majeur. Bien que ses scores aient été phénoménaux, suggérant un bond en avant dans la capacité de codage pratique, ce benchmark particulier ressemble maintenant moins à une véritable mesure de compétence et plus à une potentielle mise en scène.

Le problème crucial est apparu dans les petits caractères accompagnant le lancement de Grok 4.5 : un instantané précoce de la base de code Cursor a été "accidentellement inclus dans l'entraînement" du modèle. Cette contamination des données significative signifie que Grok 4.5 n'a probablement pas résolu les défis présentés par le benchmark ; il a peut-être simplement mémorisé les réponses, invalidant ainsi l'intégralité du test. On ne peut pas prétendre qu'un modèle est brillant s'il ne fait que régurgiter des solutions déjà vues.

Ce problème est fortement aggravé par un conflit d'intérêts flagrant. SpaceXAI, le développeur de Grok 4.5, a récemment acquis Cursor, la société même qui a développé et publié ce benchmark très favorable. La publication d'un résultat contaminé qui présente leur propre modèle sous un jour si positif, même avec une discrète clause de non-responsabilité, soulève de sérieuses questions sur la transparence et la fiabilité globale de leurs affirmations accrocheuses. Pour plus d'informations sur les capacités et les benchmarks déclarés de Grok 4.5, vous pouvez consulter Introducing Grok 4.5 | SpaceXAI.

Des tests en laboratoire au code du monde réel

Bien que certains benchmarks fassent sourciller, Grok 4.5 a obtenu la première place décisive sur le Harvey's Legal Agent Benchmark. Ce test spécifique évalue la capacité d'une IA à gérer des tâches juridiques pratiques, suggérant un réel potentiel pour des applications professionnelles spécialisées. C'est un indicateur fort que Grok 4.5 n'est pas seulement un expert en codage.

Enjoying this? Get one like it in your inbox each morning.

one email a day · unsubscribe in two clicks · no third-party tracking

Cependant, ces résultats de laboratoire élogieux contrastent fortement avec les premières expériences des utilisateurs. Les développeurs sur les plateformes de médias sociaux partagent des récits de la performance de codage de Grok 4.5 dans le monde réel, la qualifiant souvent de "décevante" ou même de "nulle". Cette divergence frappante entre les tests contrôlés et l'utilité quotidienne est une préoccupation majeure pour quiconque envisage l'intégration.

Un verdict final reste insaisissable. Grok 4.5 est indéniablement un outil puissant et rentable, offrant des tarifs comme 2 $ pour l'entrée et 6 $ pour la sortie par million de tokens, ce qui est nettement inférieur à celui de ses concurrents. Mais vous devez peser ces scores de benchmark impressionnants, bien que parfois imparfaits, face au chœur croissant de rapports du monde réel. Le battage médiatique dépasse-t-il la réalité, ou Grok 4.5 correspond-il réellement à vos besoins spécifiques ? C'est la question à laquelle vous devez répondre avant d'engager votre argent.

Foire aux questions

Qu'est-ce que Grok 4.5 ?

Grok 4.5 est un nouveau grand modèle linguistique de SpaceXAI conçu pour offrir une intelligence de pointe, de 'niveau frontière', pour l'ingénierie logicielle et les tâches du monde réel à un coût et une vitesse significativement inférieurs à ceux de ses concurrents.

Combien coûte Grok 4.5 ?

Grok 4.5 est proposé à un prix très compétitif, environ 2 $ pour l'entrée et 6 $ pour la sortie par million de tokens, ce qui est considérablement moins cher que des modèles comparables comme Claude Fable 5 ou Opus 4.8.

Qu'est-ce que la controverse du Grok 4.5 Cursor Bench ?

La controverse découle de l'admission qu'une version antérieure du codebase de Cursor, utilisée pour un benchmark de codage clé, a été 'accidentellement incluse' dans les données d'entraînement de Grok 4.5. Cela contamine les résultats, rendant incertaine la part de sa performance impressionnante sur ce benchmark spécifique qui relève d'une capacité réelle par rapport à la mémorisation.

Grok 4.5 est-il bon pour le codage ?

Grok 4.5 affiche des performances exceptionnelles sur plusieurs benchmarks de codage comme DeepSWE et Terminal Bench. Cependant, les résultats controversés du Cursor Bench et les retours mitigés des premiers utilisateurs suggèrent que, bien que puissant, ses prouesses de codage dans le monde réel pourraient être plus nuancées que ne le suggèrent les chiffres annoncés.

Found this useful? Share it.

AI Reputation Report

What AI knows about you.

ChatGPT, Perplexity, Gemini, Claude & Grok are already answering questions in your category. Type your site, see who they name — you, or your competitor. Free preview.

Check my sitefree preview

One short daily email of tools worth shipping. No drip funnel.

one email a day · unsubscribe in two clicks · no third-party tracking

🚀En savoir plus

Gardez une longueur d'avance en IA

Découvrez les meilleurs outils IA, agents et serveurs MCP sélectionnés par Stork.AI.

P.S. Vous avez créé quelque chose d'utile ? Listez-le sur Stork