Bonsai 27B é um modelo de linguagem grande de 27 bilhões de parâmetros desenvolvido pela PrismML, projetado para rodar inteiramente em um smartphone, completamente offline.
Por que importa
overview
Bonsai 27B é uma ferramenta de modelo de linguagem grande desenvolvida pela PrismML que permite que dispositivos de consumo executem cargas de trabalho avançadas de IA localmente e offline. Ele processa entradas de texto e imagem, suportando raciocínio complexo e compreensão multimodal. Lançado em 14 de julho de 2026, representa o maior e mais capaz modelo Bonsai da PrismML até o momento, projetado para compressão extrema para operar em smartphones e laptops.
features
Bonsai 27B é projetado para inferência de IA no dispositivo, oferecendo compressão significativa e otimizações de desempenho. Inclui variantes duplas adaptadas para diferentes cenários de implantação e integra capacidades multimodais para processamento de entradas diversas.
use cases
Bonsai 27B é projetado para desenvolvedores e organizações que exigem capacidades avançadas de IA diretamente em dispositivos de consumo, priorizando privacidade, funcionalidade offline e utilização eficiente de recursos.
how to use
Bonsai 27B pode ser utilizado baixando seus pesos de modelo para implantação local ou através de uma API de pré-visualização para desenvolvedores. Suas variantes duplas permitem otimização em diferentes plataformas de hardware.
pricing
Bonsai 27B opera em um modelo freemium. Os pesos do modelo estão disponíveis para download gratuito sob a licença permissiva Apache 2.0 License, permitindo uso comercial e de pesquisa. A PrismML também oferece uma API de pré-visualização gratuita e por tempo limitado para desenvolvedores para experimentação. Preços específicos para níveis de suporte empresarial ou avançado estão disponíveis mediante contato direto com a PrismML.
Ferramentas similares
A principal vantagem competitiva do Bonsai 27B é sua 'densidade de inteligência', permitindo que um modelo de 27 bilhões de parâmetros seja executado em dispositivos de consumo com uma pegada de memória significativamente reduzida. Enquanto modelos convencionais da classe 27B exigem 18GB-54GB, o Bonsai 27B consegue isso em 3.9GB (1 bit) ou 5.9GB (tamanho ideal ternário). A PrismML afirma que sua variante ternária retém 94.6% e a variante de 1 bit retém 89.5% da linha de base de precisão total em 15 benchmarks, superando as construções convencionais sub-4 bits de outros modelos.
MLC Chat is an open-source universal chat app that allows users to run various large language models directly on their devices, including smartphones, completely offline.
While Bonsai 27B is a specific 27-billion-parameter model, MLC Chat provides a platform to run a range of models, typically smaller (e.g., Llama 3.2, Gemma 2, Phi 3.5, Qwen 2.5, often in the 1B-8B parameter range), on-device and offline. It offers flexibility in model choice, whereas Bonsai 27B is a fixed model from PrismML.
PocketPal AI is a free, open-source application for Android and iOS that enables users to download and run GGUF-formatted LLMs entirely offline on their smartphones.
Similar to Bonsai 27B, PocketPal AI focuses on offline, on-device LLM inference for smartphones. However, it supports a variety of smaller GGUF models (e.g., Gemma 3 1B, Llama 3.2 1B/3B, Qwen2.5 1.5B), generally in the 1B-4B parameter range, rather than a single 27B model. It emphasizes user choice of models and privacy through local execution.
Google AI Edge Gallery is an open-source Android application and platform showcasing the LLM Inference API, which allows developers to deploy and run various Google-optimized LLMs (like Gemma) directly on Android devices for offline use.
Bonsai 27B is a consumer-ready model, while Google AI Edge Gallery and its LLM Inference API are primarily developer-focused tools for integrating on-device AI into Android applications. Google's offerings typically feature smaller, optimized models (e.g., Gemma 2B, Gemma 3n) designed for mobile hardware, which are generally less than Bonsai's stated 27 billion parameters.
Apple Intelligence is a suite of on-device AI capabilities deeply integrated into iOS, iPadOS, and macOS, processing most requests locally and offline using a 3-billion-parameter LLM.
Unlike Bonsai 27B, which is a standalone LLM, Apple Intelligence is a comprehensive system-level integration of AI features. It runs a smaller, 3-billion-parameter LLM on-device, prioritizing privacy and seamless user experience within the Apple ecosystem, whereas Bonsai 27B offers a significantly larger parameter count for a single model.
AI Reputation Report
ChatGPT, Perplexity, Gemini, Claude & Grok answer buyer questions about Bonsai 27B every day. See whether they name Bonsai 27B — or send buyers to a rival.
