overview
Bonsai 27Bとは？
Bonsai 27Bは、PrismMLが開発した大規模言語モデルツールで、コンシューマーデバイスが高度なAIワークロードをローカルでオフラインで実行できるようにします。テキストと画像の両方の入力を処理し、複雑な推論とマルチモーダルな理解をサポートします。2026年7月14日にリリースされ、スマートフォンやラップトップで動作するための極端な圧縮を目的として設計された、PrismMLのこれまでのBonsaiモデルの中で最大かつ最も高性能なモデルです。
AIツール
Bonsai 27B レビュー
Bonsai 27Bは、PrismMLが開発した270億パラメータの大規模言語モデルで、スマートフォン上で完全にオフラインで動作するように設計されています。
shipped 2026年7月17日aifreemium
ai
注目ポイント
1Bonsai 27Bは、Qwen3.6 27Bをベースとした270億パラメータのマルチモーダルAIモデルです。
2スマートフォン上で完全にオフラインで動作し、1ビットバリアントは約3.9GBです。
3PrismMLは、1ビットのBonsai 27Bが、フルプレシジョンベースラインと比較して10倍以上のインテリジェンス密度を提供すると主張しています。
4このモデルは、ハイブリッドアテンションアーキテクチャを利用し、262,144トークンのコンテキストウィンドウをサポートします。
Bonsai 27B について
料金プラン
Bonsai 27B (Ternary)
- • 5.9GB optimized for laptops
- • Multi-step reasoning
- • Tool calling
- • Agentic workflows
Bonsai 27B (1-bit)
- • 3.9GB for mobile devices
Bonsai Image
Bonsai 1.7B
Bonsai 4B
Bonsai 8B
経営陣
Unknown
仕様
features
Bonsai 27Bの主な機能
Bonsai 27Bは、オンデバイスAI推論向けに設計されており、大幅な圧縮とパフォーマンス最適化を提供します。異なる展開シナリオに合わせたデュアルバリアントを含み、多様な入力処理のためのマルチモーダル機能を統合しています。
- デュアルバリアント：モバイル向け1ビット Bonsai 27B (3.9GB) と、ラップトップ/デスクトップ向けTernary Bonsai 27B (理想的な5.9GB、展開されたGGUFで約7.2GB)。
- エンドツーエンドの低ビット量子化：埋め込み、アテンション、MLP、LMヘッドを含む言語ネットワーク全体に低ビット表現を適用します。
- マルチモーダル機能：画像、スクリーンショット、ドキュメント、カメラ入力をオンデバイスで処理するためのコンパクトな4ビットビジョンタワーを搭載しています。
- 広範なコンテキストウィンドウ：75%の線形アテンションレイヤーを持つハイブリッドアテンションアーキテクチャにより、262,144トークンのコンテキストをサポートします。
- 投機的デコーディング (DSpark)：推論速度と効率を向上させます。
- オフライン操作：インターネット接続なしで完全に機能します。
- メモリフットプリントの削減：従来のモデルと比較して14倍少ないメモリ消費を実現します。
- 高速なパフォーマンス：オンデバイスタスクで8倍高速なパフォーマンスを提供します。
- 低消費電力：5倍少ないエネルギーを使用し、デバイスのバッテリー寿命を最適化します。
use cases
Bonsai 27Bは誰が使うべきか？
Bonsai 27Bは、プライバシー、オフライン機能、効率的なリソース利用を優先し、コンシューマーデバイス上で直接高度なAI機能を必要とする開発者や組織向けに設計されています。
- ローカルデータ処理を必要とするプライバシーに配慮したアプリケーションを構築する開発者。
- 常時インターネット接続がない環境でAI機能を必要とするユーザー。
- コーディング、デバッグ、エージェントワークフローのためのオンデバイスツールを求めるソフトウェアエンジニア。
- エッジデバイス上で多段階推論、計画、複雑な問題解決を必要とするアプリケーション。
- スクリーンショット、ドキュメント、カメラフィードなどのマルチモーダル入力をデバイス上で直接処理するシステム。
how to use
Bonsai 27Bの使い方
Bonsai 27Bは、ローカル展開のためにモデルウェイトをダウンロードするか、開発者プレビューAPIを通じて利用できます。そのデュアルバリアントは、異なるハードウェアプラットフォーム間での最適化を可能にします。
- 1Apache 2.0 Licenseの下で利用可能なBonsai 27Bモデルウェイトをダウンロードし、ローカル統合します。
- 2スマートフォンやラップトップでのオンデバイス推論のために、モデルをカスタムアプリケーションに統合します。
- 3PrismMLが提供する無料の期間限定開発者プレビューAPIにアクセスし、より簡単に実験できます。
- 4最大の圧縮を実現するために、iPhone 17 Proのようなハイエンドモバイルデバイスに1ビットのBonsai 27Bバリアントを展開します。
- 5推論とコーディングのパフォーマンスを向上させるために、ラップトップやデスクトップでTernary Bonsai 27Bバリアントを利用します。
pricing
Bonsai 27Bの価格とプラン
Bonsai 27Bはフリーミアムモデルで運営されています。モデルウェイトは、寛容なApache 2.0 Licenseの下で無料でダウンロードでき、商用および研究用途の両方で利用可能です。PrismMLは、実験用の無料の期間限定開発者プレビューAPIも提供しています。エンタープライズまたは高度なサポートティアの具体的な価格については、PrismMLに直接お問い合わせください。
- Bonsai 27B (Ternary)：営業にお問い合わせください
- Bonsai 27B (1-bit)：営業にお問い合わせください
- Bonsai Image：営業にお問い合わせください
- Bonsai 1.7B：営業にお問い合わせください
- Bonsai 4B：営業にお問い合わせください
- Bonsai 8B：営業にお問い合わせください
Pros
- +First 27B-class multimodal model capable of running on a smartphone.
- +Extreme compression (1-bit and 1.58-bit quantization) results in 14x less memory consumption.
- +High performance retention (over 90% for 1-bit, 95% for ternary) despite significant compression.
- +Operates entirely offline, ensuring data privacy and functionality without internet.
- +Significantly more energy-efficient for local inference (0.275 mWh/token on M5 Pro).
- +Open-source availability under Apache 2.0 license, with Hugging Face integration.
Cons
- −Performance gap concentrated in the most demanding categories, despite high retention.
- −Agentic coding for long-horizon, multi-file workflows is not yet a strong target for this release.
- −Initial compatibility issues reported with some third-party tools like LM Studio, indicating evolving tooling support.
- −Specific pricing details for commercial use require direct contact with PrismML sales.
- −Requires high-end mobile devices (e.g., iPhone 17 Pro) for optimal smartphone performance.
類似ツール
Bonsai 27Bと競合他社との比較
Bonsai 27Bの主な競争優位性は、その「インテリジェンス密度」にあり、270億パラメータのモデルを大幅に削減されたメモリフットプリントでコンシューマーデバイス上で実行することを可能にします。従来の27Bクラスのモデルが18GB〜54GBを必要とするのに対し、Bonsai 27Bは3.9GB (1ビット) または5.9GB (三値化理想サイズ) でこれを実現します。PrismMLは、その三値化バリアントが15のベンチマークでフルプレシジョンベースラインの94.6%を保持し、1ビットバリアントが89.5%を保持し、他のモデルの従来の4ビット未満のビルドを上回ると主張しています。
1
MLC Chat↗
MLC Chat is an open-source universal chat app that allows users to run various large language models directly on their devices, including smartphones, completely offline.
While Bonsai 27B is a specific 27-billion-parameter model, MLC Chat provides a platform to run a range of models, typically smaller (e.g., Llama 3.2, Gemma 2, Phi 3.5, Qwen 2.5, often in the 1B-8B parameter range), on-device and offline. It offers flexibility in model choice, whereas Bonsai 27B is a fixed model from PrismML.
2
PocketPal AI is a free, open-source application for Android and iOS that enables users to download and run GGUF-formatted LLMs entirely offline on their smartphones.
Similar to Bonsai 27B, PocketPal AI focuses on offline, on-device LLM inference for smartphones. However, it supports a variety of smaller GGUF models (e.g., Gemma 3 1B, Llama 3.2 1B/3B, Qwen2.5 1.5B), generally in the 1B-4B parameter range, rather than a single 27B model. It emphasizes user choice of models and privacy through local execution.
3
Google AI Edge Gallery is an open-source Android application and platform showcasing the LLM Inference API, which allows developers to deploy and run various Google-optimized LLMs (like Gemma) directly on Android devices for offline use.
Bonsai 27B is a consumer-ready model, while Google AI Edge Gallery and its LLM Inference API are primarily developer-focused tools for integrating on-device AI into Android applications. Google's offerings typically feature smaller, optimized models (e.g., Gemma 2B, Gemma 3n) designed for mobile hardware, which are generally less than Bonsai's stated 27 billion parameters.
4
Apple Intelligence↗
Apple Intelligence is a suite of on-device AI capabilities deeply integrated into iOS, iPadOS, and macOS, processing most requests locally and offline using a 3-billion-parameter LLM.
Unlike Bonsai 27B, which is a standalone LLM, Apple Intelligence is a comprehensive system-level integration of AI features. It runs a smaller, 3-billion-parameter LLM on-device, prioritizing privacy and seamless user experience within the Apple ecosystem, whereas Bonsai 27B offers a significantly larger parameter count for a single model.
AI Reputation Report
Is Bonsai 27B yours?
ChatGPT, Perplexity, Gemini, Claude & Grok answer buyer questions about Bonsai 27B every day. See whether they name Bonsai 27B — or send buyers to a rival.
See what AI saysfree preview