Skip to content

Test de Needle 2

Needle 2 est le modèle gratuit de 45M de paramètres de Cactus Compute pour l'appel d'outils sur l'appareil et l'extraction structurée : un binaire de 14 MB qui s'exécute avec environ 28 MB de RAM. Needle 3 l'a remplacé en septembre 2026.

Freemium · API

Le verdict de Stork sur Needle 2

Needle 2 montre jusqu'où un modèle d'appel d'outils de 14 MB peut aller sur du matériel bon marché, mais les nouveaux projets devraient commencer par Needle 3 et tester la précision sur leurs propres outils.

Needle 2 reviewed by Stork AI · stork.ai/fr/needle-2

stork
Je suis un tableau.
Un tableau immobile et une phrase tapée.
Ce tableau n'a jamais été filmé.
Une photo, un dessin, un tableau ou un personnage 3D. Dès $0.10 la minute. Essai gratuit.
Faire parler une photoDéveloppeurs : il y a une API

Ce que fait Needle 2

Needle 2 est un petit modèle de langage de Cactus Compute conçu pour une seule tâche : transformer une requête en langage courant en l'appel de fonction approprié, ou extraire des champs typés d'un texte. Cactus l'a publié le 9 août 2026 sous la forme d'un modèle de 45M de paramètres compressé à environ 2 bits par poids et intégré à son propre moteur, de sorte que l'ensemble tient dans un unique binaire de 14 MB, avec une RAM de session maximale d'environ 28 MB. Il ne converse pas. Vous déclarez des outils (une fonction Python avec une docstring, ou un schéma JSON), et Needle choisit lesquels appeler et renseigne les arguments ; une grammaire au niveau de l'octet, compilée à partir de vos schémas, contraint chaque token, de sorte que la sortie est toujours analysable. Chaque réponse s'accompagne d'un score de confiance calibré : une application peut ainsi agir au-dessus d'un seuil et escalader (par exemple vers un modèle cloud) en dessous. Une tête de récupération permet de déclarer un vaste catalogue d'outils tout en ne présentant au modèle que les cinq meilleurs outils à chaque tour.

Cactus indique que Needle 2 décode environ 500 tokens par seconde sur un Raspberry Pi 5, de 300 à 700 sur des téléphones à moins de 200 $ tels que la gamme Samsung A-Series, et qu'il fonctionne sur ARM64, x86-64, ARMv7, RISC-V et WebAssembly sur Apple, Windows, Linux, Android et Raspberry Pi, jusqu'aux microcontrôleurs tels que l'ESP32. Il s'installe avec pip install cactus-needle. Le 17 septembre 2026, Cactus a publié Needle 3, un modèle de 8 à 29 MB (29M à 121M de paramètres, toute profondeur de 2 à 20 couches) qui ajoute les embeddings de texte et s'associe au modèle vocal Whistle de Cactus ; le package actuel exécute Needle 3 par défaut et maintient Needle 2 disponible avec generation=2 pour les déploiements existants.

Tarifs de Needle 2

OptionPrixInclus
Poids et moteur de Needle 2Gratuit, Apache License 2.0Binaire du modèle sur Hugging Face, package Python cactus-needle, code source et code d'entraînement sur GitHub
Needle 3 (modèle actuel)Gratuit, Apache License 2.0Même package ; poids, checkpoint ajustable par fine-tuning et moteurs par plateforme sur Hugging Face
Fine-tuning personnalisé ou checkpoints hybrides proposés par CactusPrix non publié ; contacter le service commercialCactus propose du fine-tuning et du post-entraînement à la demande via un contact « Talk to us »

Il n'y a aucun frais par appel : le modèle s'exécute sur votre propre appareil, hors ligne. Cactus ne publie pas de page de tarifs.

Prix vérifiés sur le site de l'éditeur le 3 novembre 2026. Voir cactuscompute.com et la fiche du modèle Needle 2.

Fonctionnalités clés

Ce qu'indiquent l'article de lancement et la fiche du modèle Needle 2 de Cactus :

  • 45M de paramètres à environ 2 bits par poids (CQ2-bit), binaire de 14 MB, environ 28 MB de RAM de session
  • Autonome : modèle intégré au binaire, aucun téléchargement à l'exécution et aucun réseau nécessaire
  • Appel d'outils et extraction structurée, renvoyés sous forme de JSON contraint par une grammaire compilée à partir de vos schémas
  • Score de confiance calibré sur chaque réponse pour un routage agir ou escalader
  • Récupération d'outils : vastes catalogues, cinq meilleurs outils présentés à chaque tour
  • Fenêtre glissante de 256 tokens avec outils épinglés, pour une mémoire constante dans les longues sessions
  • Fonctionne sur ARM64, x86-64, ARMv7, RISC-V et WebAssembly ; package Python cactus-needle
  • Bac à sable dans le navigateur pour essayer des outils d'exemple avant l'intégration

À qui s'adresse Needle 2

Needle convient aux développeurs qui intègrent un contrôle vocal ou textuel dans du matériel bon marché ou hors ligne : appareils de maison connectée, objets portables, robots, téléphones d'entrée de gamme, projets Raspberry Pi et microcontrôleurs, là où un LLM généraliste ne tient pas et où la tâche consiste à associer une phrase à un ensemble connu de fonctions. Ce n'est pas un chatbot et il n'a pratiquement aucune connaissance générale. Pour les nouveaux projets, commencez par Needle 3, que Cactus recommande désormais et qui s'exécute à partir du même package ; n'utilisez Needle 2 que si vous le déployez déjà et souhaitez conserver un comportement inchangé.

Si vous avez besoin d'un petit modèle généraliste un peu plus grand, consultez la famille Gemma de Google (y compris FunctionGemma, avec lequel Cactus se compare). Pour exécuter vos propres modèles PyTorch sur des téléphones, voir ExecuTorch ; pour de la voix commerciale sur l'appareil avec mots d'activation et reconnaissance d'intentions, Picovoice.

Ce qu'en disent les utilisateurs

Les réactions ont été mitigées. Un article de Developers Digest sur le lancement Show HN indique que les commentateurs ont apprécié la taille et la démo dans le navigateur, mais ont publié des appels erronés émis avec assurance depuis la démo (par exemple, une demande de réchauffer une pièce qui réglait le thermostat sur le mode refroidissement) et ont remis en question la présentation des benchmarks. D'après les chiffres de Cactus cités dans cet article, Needle 2 a obtenu 42,6 sur BFCL v4 single-turn, contre 46,1 pour FunctionGemma 270M, 60,8 pour LFM2.5 230M et 61,7 pour Apple FM, tout en fonctionnant avec des poids de 2 bits contre 16 bits pour les autres. Un article du blog Raspberry Pi, rédigé par l'équipe de Cactus Compute, montre le modèle en train de contrôler des LED et de lire la température du CPU sur un Pi 5 en 80 à 110 ms environ par appel. Testez-le sur votre propre ensemble d'outils avant de vous y fier.

Points forts

  • Minuscule : binaire de 14 MB, environ 28 MB de RAM, fonctionne uniquement sur CPU
  • Poids gratuits sous licence Apache-2.0 ; fonctionne entièrement hors ligne
  • La sortie est toujours analysable grâce à une grammaire compilée à partir du schéma
  • Le score de confiance facilite la mise en place d'un repli vers le cloud
  • Fonctionne sur téléphones, Raspberry Pi, navigateurs (WebAssembly) et microcontrôleurs

Points faibles

  • Remplacé par Needle 3 ; conservé principalement pour les déploiements existants
  • Score inférieur à celui de petits modèles plus grands sur BFCL v4 single-turn
  • Les testeurs lors du lancement ont signalé des appels d'outils erronés émis avec assurance
  • Pas de conversation générale ni de connaissances sur le monde

Questions fréquentes

Qu'est-ce que Needle 2 ?

Un modèle de 45M de paramètres de Cactus Compute destiné à l'appel d'outils sur l'appareil, au contrôle d'appareils et à l'extraction structurée. Il est livré sous la forme d'un unique binaire de 14 MB qui s'exécute avec environ 28 MB de RAM, sans réseau, et renvoie du JSON contraint par une grammaire ainsi qu'un score de confiance.

Needle 2 est-il gratuit ?

Oui. La fiche du modèle Needle 2 sur Hugging Face indique la licence Apache License 2.0, et le code est disponible sur GitHub. Il n'y a aucun frais par appel, car il s'exécute sur votre propre appareil. Les travaux de fine-tuning personnalisé de Cactus n'ont pas de prix publié.

Quelle est la différence entre Needle 2 et Needle 3 ?

Needle 3, publié le 17 septembre 2026, est un modèle de 8 à 29 MB (29M à 121M de paramètres, profondeur au choix de 2 à 20 couches) qui ajoute les embeddings de texte et fonctionne avec le modèle vocal Whistle. Le même package cactus-needle exécute Needle 3 par défaut ; utilisez generation=2 pour conserver Needle 2.

Sur quels appareils Needle 2 peut-il fonctionner ?

Cactus indique des builds ARM64, x86-64, ARMv7, RISC-V et WebAssembly pour Apple, Windows, Linux, Android et Raspberry Pi. Elle cite environ 500 tokens par seconde en décodage sur un Raspberry Pi 5, de 300 à 700 sur des téléphones à moins de 200 $, ainsi que des microcontrôleurs tels que l'ESP32.

Needle 2 peut-il discuter ou répondre à des questions ?

Non. Cactus a délibérément sacrifié la capacité de conversation générale au profit de l'appel d'outils et de l'extraction. Le modèle associe une requête aux fonctions que vous déclarez et renvoie une liste vide pour les requêtes hors sujet plutôt que de deviner.

Quelle est la précision de Needle 2 ?

Cactus affirme qu'il fait jeu égal avec FunctionGemma 270M, LFM2.5 230M et Apple FM sur les benchmarks d'appel d'outils, tout en étant 5x à 70x plus petit. Sur BFCL v4 single-turn, il a obtenu 42,6, soit moins que ces trois modèles. Des testeurs lors du lancement sur Hacker News ont signalé des appels erronés émis avec assurance ; validez donc le modèle sur vos propres outils.

Comparer les alternatives

Needle 2

Freemium · API

Sur le blog Stork

Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.

un e-mail par jour · désinscription en deux clics · aucun traqueur tiers