Skip to content
Stork.AIstork.ai
AI Инструмент

Обзор Bonsai 27B

Bonsai 27B — это большая языковая модель с 27 миллиардами параметров, разработанная PrismML, предназначенная для работы исключительно на смартфоне, полностью в автономном режиме.

shipped 17 июл. 2026 г.aifreemium
ai
Bonsai 27B — product screenshot

Почему это важно

1Bonsai 27B — это мультимодальная модель ИИ с 27 миллиардами параметров, основанная на Qwen3.6 27B.
2Она работает исключительно на смартфоне, полностью в автономном режиме, с 1-битным вариантом размером примерно 3,9 ГБ.
3PrismML заявляет, что 1-битный Bonsai 27B обеспечивает более чем в 10 раз большую плотность интеллекта по сравнению с его полноразрядным базовым вариантом.
4Модель поддерживает контекстное окно размером 262 144 токена, используя архитектуру гибридного внимания.

О Bonsai 27B

Тарифные планы

Bonsai 27B (Ternary)
  • • 5.9GB optimized for laptops
  • • Multi-step reasoning
  • • Tool calling
  • • Agentic workflows
Bonsai 27B (1-bit)
  • • 3.9GB for mobile devices
Bonsai Image
Bonsai 1.7B
Bonsai 4B
Bonsai 8B

Руководство

Unknown
API Docs

Характеристики

Документация API

Посмотреть документацию →

GitHub

Посмотреть репозиторий →

Доступность API

Да, публичный API

overview

Что такое Bonsai 27B?

Bonsai 27B — это инструмент большой языковой модели, разработанный PrismML, который позволяет потребительским устройствам выполнять сложные рабочие нагрузки ИИ локально и в автономном режиме. Он обрабатывает как текстовые, так и графические данные, поддерживая сложное рассуждение и мультимодальное понимание. Запущенный 14 июля 2026 года, он представляет собой крупнейшую и наиболее мощную модель Bonsai от PrismML на сегодняшний день, разработанную для экстремального сжатия для работы на смартфонах и ноутбуках.

features

Ключевые особенности Bonsai 27B

Bonsai 27B разработан для выполнения ИИ-выводов на устройстве, предлагая значительное сжатие и оптимизацию производительности. Он включает два варианта, адаптированных для различных сценариев развертывания, и интегрирует мультимодальные возможности для обработки разнообразных входных данных.

  • Два варианта: 1-битный Bonsai 27B (3,9 ГБ) для мобильных устройств и Ternary Bonsai 27B (идеально 5,9 ГБ, ~7,2 ГБ развернутый GGUF) для ноутбуков/настольных ПК.
  • Сквозное низкобитное квантование: Применяет низкобитное представление ко всей языковой сети, включая эмбеддинги, внимание, MLPs и LM head.
  • Мультимодальные возможности: Включает компактную 4-битную визуальную башню для обработки изображений, скриншотов, документов и входных данных с камеры на устройстве.
  • Расширенное контекстное окно: Поддерживает контекст из 262 144 токенов, что стало возможным благодаря архитектуре гибридного внимания с 75% линейных слоев внимания.
  • Спекулятивное декодирование (DSpark): Повышает скорость и эффективность вывода.
  • Автономная работа: Функционирует полностью без подключения к интернету.
  • Уменьшенное потребление памяти: Достигает в 14 раз меньшего потребления памяти по сравнению с обычными моделями.
  • Более высокая производительность: Обеспечивает в 8 раз более высокую производительность для задач на устройстве.
  • Сниженное энергопотребление: Использует в 5 раз меньше энергии, оптимизируя срок службы батареи устройства.

use cases

Кому следует использовать Bonsai 27B?

Bonsai 27B разработан для разработчиков и организаций, которым требуются расширенные возможности ИИ непосредственно на потребительских устройствах, с приоритетом конфиденциальности, автономной функциональности и эффективного использования ресурсов.

  • Разработчикам, создающим конфиденциальные приложения, требующие локальной обработки данных.
  • Пользователям, которым требуется функциональность ИИ в средах без постоянного подключения к интернету.
  • Инженерам-программистам, ищущим инструменты на устройстве для кодирования, отладки и агентских рабочих процессов.
  • Приложениям, требующим многошагового рассуждения, планирования и сложного решения проблем на периферийных устройствах.
  • Системам, которые обрабатывают мультимодальные входные данные, такие как скриншоты, документы и потоки с камеры, непосредственно на устройстве.

how to use

Как использовать Bonsai 27B

Bonsai 27B можно использовать, загрузив веса модели для локального развертывания или через API предварительного просмотра для разработчиков. Его два варианта позволяют оптимизировать работу на различных аппаратных платформах.

  • 1Загрузите веса модели Bonsai 27B, доступные по лицензии Apache 2.0, для локальной интеграции.
  • 2Интегрируйте модель в пользовательские приложения для вывода на устройстве на смартфонах или ноутбуках.
  • 3Получите доступ к бесплатному, ограниченному по времени API предварительного просмотра для разработчиков, предоставленному PrismML, для упрощения экспериментов.
  • 4Разверните 1-битный вариант Bonsai 27B на высокопроизводительных мобильных устройствах, таких как iPhone 17 Pro, для максимального сжатия.
  • 5Используйте вариант Ternary Bonsai 27B на ноутбуках и настольных ПК для повышения производительности рассуждений и кодирования.

pricing

Цены и планы Bonsai 27B

Bonsai 27B работает по модели freemium. Веса модели доступны для бесплатной загрузки по разрешительной лицензии Apache 2.0, что позволяет использовать их как в коммерческих, так и в исследовательских целях. PrismML также предлагает бесплатный, ограниченный по времени API предварительного просмотра для разработчиков для экспериментов. Конкретные цены для корпоративных или расширенных уровней поддержки доступны по прямому запросу в PrismML.

  • Bonsai 27B (Ternary): Связаться с отделом продаж
  • Bonsai 27B (1-bit): Связаться с отделом продаж
  • Bonsai Image: Связаться с отделом продаж
  • Bonsai 1.7B: Связаться с отделом продаж
  • Bonsai 4B: Связаться с отделом продаж
  • Bonsai 8B: Связаться с отделом продаж

Pros

  • +First 27B-class multimodal model capable of running on a smartphone.
  • +Extreme compression (1-bit and 1.58-bit quantization) results in 14x less memory consumption.
  • +High performance retention (over 90% for 1-bit, 95% for ternary) despite significant compression.
  • +Operates entirely offline, ensuring data privacy and functionality without internet.
  • +Significantly more energy-efficient for local inference (0.275 mWh/token on M5 Pro).
  • +Open-source availability under Apache 2.0 license, with Hugging Face integration.

Cons

  • −Performance gap concentrated in the most demanding categories, despite high retention.
  • −Agentic coding for long-horizon, multi-file workflows is not yet a strong target for this release.
  • −Initial compatibility issues reported with some third-party tools like LM Studio, indicating evolving tooling support.
  • −Specific pricing details for commercial use require direct contact with PrismML sales.
  • −Requires high-end mobile devices (e.g., iPhone 17 Pro) for optimal smartphone performance.

Похожие инструменты

Bonsai 27B против конкурентов

Основное конкурентное преимущество Bonsai 27B — это его «плотность интеллекта», позволяющая модели с 27 миллиардами параметров работать на потребительских устройствах со значительно уменьшенным объемом памяти. В то время как обычные модели класса 27B требуют 18–54 ГБ, Bonsai 27B достигает этого при 3,9 ГБ (1-бит) или 5,9 ГБ (идеальный троичный размер). PrismML заявляет, что его троичный вариант сохраняет 94,6%, а 1-битный вариант — 89,5% от полноразрядного базового уровня по 15 бенчмаркам, превосходя обычные сборки других моделей с разрядностью менее 4 бит.

1
MLC Chat↗

MLC Chat is an open-source universal chat app that allows users to run various large language models directly on their devices, including smartphones, completely offline.

While Bonsai 27B is a specific 27-billion-parameter model, MLC Chat provides a platform to run a range of models, typically smaller (e.g., Llama 3.2, Gemma 2, Phi 3.5, Qwen 2.5, often in the 1B-8B parameter range), on-device and offline. It offers flexibility in model choice, whereas Bonsai 27B is a fixed model from PrismML.

2
PocketPal AIOn StorkCompare

PocketPal AI is a free, open-source application for Android and iOS that enables users to download and run GGUF-formatted LLMs entirely offline on their smartphones.

Similar to Bonsai 27B, PocketPal AI focuses on offline, on-device LLM inference for smartphones. However, it supports a variety of smaller GGUF models (e.g., Gemma 3 1B, Llama 3.2 1B/3B, Qwen2.5 1.5B), generally in the 1B-4B parameter range, rather than a single 27B model. It emphasizes user choice of models and privacy through local execution.

3
Google AI Edge Gallery / LLM Inference APIOn StorkCompare

Google AI Edge Gallery is an open-source Android application and platform showcasing the LLM Inference API, which allows developers to deploy and run various Google-optimized LLMs (like Gemma) directly on Android devices for offline use.

Bonsai 27B is a consumer-ready model, while Google AI Edge Gallery and its LLM Inference API are primarily developer-focused tools for integrating on-device AI into Android applications. Google's offerings typically feature smaller, optimized models (e.g., Gemma 2B, Gemma 3n) designed for mobile hardware, which are generally less than Bonsai's stated 27 billion parameters.

4
Apple Intelligence↗

Apple Intelligence is a suite of on-device AI capabilities deeply integrated into iOS, iPadOS, and macOS, processing most requests locally and offline using a 3-billion-parameter LLM.

Unlike Bonsai 27B, which is a standalone LLM, Apple Intelligence is a comprehensive system-level integration of AI features. It runs a smaller, 3-billion-parameter LLM on-device, prioritizing privacy and seamless user experience within the Apple ecosystem, whereas Bonsai 27B offers a significantly larger parameter count for a single model.

Посетить Bonsai 27B↗
Контакты
𝕏
X / Twitterx.com/PrismML
⌘
GitHubgithub.com/PrismML-Eng/Bonsai-demo/blob/main/bonsai-27b-whitepaper.pdf
in
LinkedInwww.linkedin.com/company/prismml/

AI Reputation Report

Is Bonsai 27B yours?

ChatGPT, Perplexity, Gemini, Claude & Grok answer buyer questions about Bonsai 27B every day. See whether they name Bonsai 27B — or send buyers to a rival.

See what AI saysfree preview

Featured in articles