WebLLM
Shares tags: deploy, self-hosted, browser/webassembly
Запускайте крупные языковые модели мгновенно с WebLLM
Похожие инструменты
Другие инструменты, которые стоит рассмотреть
WebLLM
Shares tags: deploy, self-hosted, browser/webassembly
WebLLM
Shares tags: deploy, self-hosted, browser/webassembly
Web Stable Diffusion
Shares tags: deploy, self-hosted, browser/webassembly
Mistral.rs
Shares tags: deploy, self-hosted, browser/webassembly
<a href="https://www.stork.ai/en/webllm" target="_blank" rel="noopener noreferrer"><img src="https://www.stork.ai/api/badge/webllm?style=dark" alt="WebLLM - Featured on Stork.ai" height="36" /></a>
[](https://www.stork.ai/en/webllm)
overview
WebLLM — это современный проект MLC, разработанный для запуска квантизированных больших языковых моделей прямо в вашем браузере. С помощью WebGPU и WebAssembly вы можете использовать мощь LLM без компромиссов в области конфиденциальности и зависимости от серверов.
features
WebLLM выделяется своими универсальными функциями, которые удовлетворяют потребности разработчиков в создании современных приложений. От интерактивных веб-агентов до чат-ботов, WebLLM предлагает важные инструменты и поддержку.
use cases
Будь то разработка чат-ботов, инструментов для вопросов и ответов по локальным документам или инновационных веб-агентов, WebLLM помогает вам создавать приложения с акцентом на конфиденциальность, которые эффективно вовлекают пользователей.
insights
WebLLM постоянно развивается, добавляя более широкие мультимодальные возможности. Будущие обновления обещают улучшенные функции, включая модели внедрения и LLM с поддержкой зрения для более насыщенного пользовательского опыта.
WebLLM работает полностью в браузере, устраняя необходимость в доступе к серверу и защищая ваши данные от внешних угроз.
WebLLM поддерживает множество современных открытых моделей, таких как Llama 3, Phi 3 и Mistral, а также позволяет интегрировать кастомные модели в формате MLC.
WebLLM оптимизирован для разработчиков, но предлагает простые варианты интеграции и интуитивно понятный интерфейс, которые могут быть полезны пользователям с минимальными техническими знаниями.
Ещё на Stork
Другие инструменты в этой категории, ранжированные по сигналам сообщества
Пиодид + Трансформеры
🧩 Deploy
Среда выполнения Python, скомпилированная в WASM для задач машинного обучения браузера.
Мистраль.рс
🧩 Deploy
Среда выполнения Rust+WASM для небольших LLM в браузерах.
ВебLLM
🧩 Deploy
Запускает квантованные LLM полностью в браузере через WebGPU/WebAssembly.
Веб-стабильное распространение
🧩 Deploy
Stable Diffusion на устройстве, работающий в браузере.
ВебLLM
🧩 Deploy
Запускает LLM непосредственно в браузере через WebGPU/WebAssembly.
Azure Stack Hub ИИ
🧩 Deploy
Службы Azure предоставляются локально для регулируемых рабочих нагрузок.
For builders
AI agents read it. Buyers find it. Backlinks accrue. Your tool can have one too — live in 24 hours, indexed by Claude, ChatGPT, and Perplexity, queryable via MCP.