ONNX Runtime Web
Shares tags: deploy, self-hosted, browser/webassembly
ОСНАСТИТЕ ваши приложения мощной средой выполнения Rust+WASM для небольших LLM.
Tags
Similar Tools
Other tools you might consider
overview
Mistral.rs — это современный исполняемый модуль, специально разработанный для развертывания небольших языковых моделей (LLM) непосредственно в вашем браузере с использованием Rust и WebAssembly. Используйте эту инновационную технологию для достижения более быстрых времен выполнения и отзывчивого пользовательского опыта.
features
Mistral.rs предлагает набор современных функций, предназначенных для улучшения ваших веб-приложений. От безупречных интеграций до высокой производительности — узнайте, что отличает нас от других.
use_cases
Mistral.rs может быть внедрен в различных сферах, чтобы повысить возможности вашего приложения. Независимо от того, занимаетесь ли вы разработкой ИИ, образованием или созданием контента, наше решение масштабируется в соответствии с вашими потребностями.
Mistral.rs — это среда выполнения для Rust и WebAssembly, предназначенная для развертывания небольших языковых моделей (LLM) непосредственно в веб-браузерах, что обеспечивает более быстрое и эффективное функционирование веб-приложений.
Да, Mistral.rs оптимизирован для совместимости со всеми современными браузерами, что обеспечивает широкую аудиторию для ваших приложений.
Самостоятельный хостинг с Mistral.rs позволяет вам запускать программное обеспечение на собственных серверах, обеспечивая полный контроль над вашей разверткой при сохранении конфиденциальности и безопасности.