Skip to content
Stork.AIstork.ai
Outil d'IA

Test de Bonsai 27B

Bonsai 27B est un grand modèle linguistique de 27 milliards de paramètres développé par PrismML, conçu pour fonctionner entièrement sur un smartphone, complètement hors ligne.

shipped 17 juil. 2026aifreemium
ai
Bonsai 27B — product screenshot

Pourquoi c'est important

1Bonsai 27B est un modèle d'IA multimodal de 27 milliards de paramètres basé sur Qwen3.6 27B.
2Il fonctionne entièrement sur un smartphone, complètement hors ligne, avec une variante 1-bit d'environ 3,9 Go.
3PrismML affirme que Bonsai 27B 1-bit offre plus de 10 fois la densité d'intelligence de sa référence en pleine précision.
4Le modèle prend en charge une fenêtre de contexte de 262 144 tokens, utilisant une architecture d'attention hybride.

À propos de Bonsai 27B

Formules tarifaires

Bonsai 27B (Ternary)
  • • 5.9GB optimized for laptops
  • • Multi-step reasoning
  • • Tool calling
  • • Agentic workflows
Bonsai 27B (1-bit)
  • • 3.9GB for mobile devices
Bonsai Image
Bonsai 1.7B
Bonsai 4B
Bonsai 8B

Direction

Unknown
API Docs

Spécifications

Documentation API

Voir la documentation →

GitHub

Voir le dépôt →

API disponible

Oui, API publique

overview

Qu'est-ce que Bonsai 27B ?

Bonsai 27B est un outil de grand modèle linguistique développé par PrismML qui permet aux appareils grand public d'exécuter des charges de travail d'IA avancées localement et hors ligne. Il traite à la fois les entrées texte et image, prenant en charge le raisonnement complexe et la compréhension multimodale. Lancé le 14 juillet 2026, il représente le modèle Bonsai le plus grand et le plus performant de PrismML à ce jour, conçu pour une compression extrême afin de fonctionner sur les smartphones et les ordinateurs portables.

features

Fonctionnalités clés de Bonsai 27B

Bonsai 27B est conçu pour l'inférence d'IA sur appareil, offrant une compression et des optimisations de performance significatives. Il comprend deux variantes adaptées à différents scénarios de déploiement et intègre des capacités multimodales pour le traitement d'entrées diverses.

  • Deux variantes : Bonsai 27B 1-bit (3,9 Go) pour mobile et Bonsai 27B Ternaire (5,9 Go idéal, ~7,2 Go GGUF déployé) pour ordinateurs portables/de bureau.
  • Quantification bas-bit de bout en bout : Applique une représentation bas-bit à l'ensemble du réseau linguistique, y compris les embeddings, l'attention, les MLP et la tête LM.
  • Capacités multimodales : Comprend une tour de vision compacte 4-bit pour le traitement des images, captures d'écran, documents et entrées de caméra sur l'appareil.
  • Fenêtre de contexte étendue : Prend en charge un contexte de 262 144 tokens, activée par une architecture d'attention hybride avec 75 % de couches d'attention linéaire.
  • Décodage spéculatif (DSpark) : Améliore la vitesse et l'efficacité de l'inférence.
  • Fonctionnement hors ligne : Fonctionne entièrement sans connectivité internet.
  • Empreinte mémoire réduite : Atteint 14 fois moins de consommation de mémoire par rapport aux modèles conventionnels.
  • Performances plus rapides : Offre des performances 8 fois plus rapides pour les tâches sur appareil.
  • Consommation d'énergie réduite : Utilise 5 fois moins d'énergie, optimisant la durée de vie de la batterie de l'appareil.

use cases

Qui devrait utiliser Bonsai 27B ?

Bonsai 27B est conçu pour les développeurs et les organisations nécessitant des capacités d'IA avancées directement sur les appareils grand public, en privilégiant la confidentialité, la fonctionnalité hors ligne et l'utilisation efficace des ressources.

  • Développeurs créant des applications sensibles à la confidentialité qui nécessitent un traitement local des données.
  • Utilisateurs ayant besoin de fonctionnalités d'IA dans des environnements sans connectivité internet constante.
  • Ingénieurs logiciels recherchant des outils sur appareil pour le codage, le débogage et les flux de travail agentiques.
  • Applications nécessitant un raisonnement en plusieurs étapes, une planification et une résolution de problèmes complexes sur les appareils périphériques.
  • Systèmes qui traitent des entrées multimodales comme des captures d'écran, des documents et des flux de caméra directement sur l'appareil.

how to use

Comment utiliser Bonsai 27B

Bonsai 27B peut être utilisé en téléchargeant les poids de son modèle pour un déploiement local ou via une API de prévisualisation pour développeurs. Ses deux variantes permettent une optimisation sur différentes plateformes matérielles.

  • 1Téléchargez les poids du modèle Bonsai 27B, disponibles sous la licence Apache 2.0 License, pour une intégration locale.
  • 2Intégrez le modèle dans des applications personnalisées pour l'inférence sur appareil sur les smartphones ou les ordinateurs portables.
  • 3Accédez à l'API de prévisualisation gratuite et limitée dans le temps fournie par PrismML pour faciliter l'expérimentation.
  • 4Déployez la variante Bonsai 27B 1-bit sur des appareils mobiles haut de gamme tels que l'iPhone 17 Pro pour une compression maximale.
  • 5Utilisez la variante Bonsai 27B Ternaire sur les ordinateurs portables et de bureau pour des performances de raisonnement et de codage améliorées.

pricing

Tarification et forfaits de Bonsai 27B

Bonsai 27B fonctionne sur un modèle freemium. Les poids du modèle sont disponibles en téléchargement gratuit sous la licence permissive Apache 2.0 License, permettant une utilisation commerciale et de recherche. PrismML propose également une API de prévisualisation gratuite et limitée dans le temps pour les développeurs, à des fins d'expérimentation. Les tarifs spécifiques pour les niveaux d'entreprise ou de support avancé sont disponibles sur contact direct avec PrismML.

  • Bonsai 27B (Ternaire) : Contacter le service commercial
  • Bonsai 27B (1-bit) : Contacter le service commercial
  • Bonsai Image : Contacter le service commercial
  • Bonsai 1.7B : Contacter le service commercial
  • Bonsai 4B : Contacter le service commercial
  • Bonsai 8B : Contacter le service commercial

Pros

  • +First 27B-class multimodal model capable of running on a smartphone.
  • +Extreme compression (1-bit and 1.58-bit quantization) results in 14x less memory consumption.
  • +High performance retention (over 90% for 1-bit, 95% for ternary) despite significant compression.
  • +Operates entirely offline, ensuring data privacy and functionality without internet.
  • +Significantly more energy-efficient for local inference (0.275 mWh/token on M5 Pro).
  • +Open-source availability under Apache 2.0 license, with Hugging Face integration.

Cons

  • −Performance gap concentrated in the most demanding categories, despite high retention.
  • −Agentic coding for long-horizon, multi-file workflows is not yet a strong target for this release.
  • −Initial compatibility issues reported with some third-party tools like LM Studio, indicating evolving tooling support.
  • −Specific pricing details for commercial use require direct contact with PrismML sales.
  • −Requires high-end mobile devices (e.g., iPhone 17 Pro) for optimal smartphone performance.

Outils similaires

Bonsai 27B vs Concurrents

L'avantage concurrentiel principal de Bonsai 27B est sa 'densité d'intelligence', permettant à un modèle de 27 milliards de paramètres de fonctionner sur des appareils grand public avec une empreinte mémoire considérablement réduite. Alors que les modèles conventionnels de classe 27B nécessitent 18 Go-54 Go, Bonsai 27B y parvient en 3,9 Go (1-bit) ou 5,9 Go (taille idéale ternaire). PrismML affirme que sa variante ternaire conserve 94,6 % et la variante 1-bit conserve 89,5 % de la référence en pleine précision sur 15 benchmarks, surpassant les constructions conventionnelles sub-4-bit d'autres modèles.

1
MLC Chat↗

MLC Chat is an open-source universal chat app that allows users to run various large language models directly on their devices, including smartphones, completely offline.

While Bonsai 27B is a specific 27-billion-parameter model, MLC Chat provides a platform to run a range of models, typically smaller (e.g., Llama 3.2, Gemma 2, Phi 3.5, Qwen 2.5, often in the 1B-8B parameter range), on-device and offline. It offers flexibility in model choice, whereas Bonsai 27B is a fixed model from PrismML.

2
PocketPal AIOn StorkCompare

PocketPal AI is a free, open-source application for Android and iOS that enables users to download and run GGUF-formatted LLMs entirely offline on their smartphones.

Similar to Bonsai 27B, PocketPal AI focuses on offline, on-device LLM inference for smartphones. However, it supports a variety of smaller GGUF models (e.g., Gemma 3 1B, Llama 3.2 1B/3B, Qwen2.5 1.5B), generally in the 1B-4B parameter range, rather than a single 27B model. It emphasizes user choice of models and privacy through local execution.

3
Google AI Edge Gallery / LLM Inference APIOn StorkCompare

Google AI Edge Gallery is an open-source Android application and platform showcasing the LLM Inference API, which allows developers to deploy and run various Google-optimized LLMs (like Gemma) directly on Android devices for offline use.

Bonsai 27B is a consumer-ready model, while Google AI Edge Gallery and its LLM Inference API are primarily developer-focused tools for integrating on-device AI into Android applications. Google's offerings typically feature smaller, optimized models (e.g., Gemma 2B, Gemma 3n) designed for mobile hardware, which are generally less than Bonsai's stated 27 billion parameters.

4
Apple Intelligence↗

Apple Intelligence is a suite of on-device AI capabilities deeply integrated into iOS, iPadOS, and macOS, processing most requests locally and offline using a 3-billion-parameter LLM.

Unlike Bonsai 27B, which is a standalone LLM, Apple Intelligence is a comprehensive system-level integration of AI features. It runs a smaller, 3-billion-parameter LLM on-device, prioritizing privacy and seamless user experience within the Apple ecosystem, whereas Bonsai 27B offers a significantly larger parameter count for a single model.

Visiter Bonsai 27B↗
Contact
𝕏
X / Twitterx.com/PrismML
⌘
GitHubgithub.com/PrismML-Eng/Bonsai-demo/blob/main/bonsai-27b-whitepaper.pdf
in
LinkedInwww.linkedin.com/company/prismml/

AI Reputation Report

Is Bonsai 27B yours?

ChatGPT, Perplexity, Gemini, Claude & Grok answer buyer questions about Bonsai 27B every day. See whether they name Bonsai 27B — or send buyers to a rival.

See what AI saysfree preview

Featured in articles