overview
Обзор Mistral.rs
Mistral.rs — это современный исполняемый модуль, специально разработанный для развертывания небольших языковых моделей (LLM) непосредственно в вашем браузере с использованием Rust и WebAssembly. Используйте эту инновационную технологию для достижения более быстрых времен выполнения и отзывчивого пользовательского опыта.
- Эффективное выполнение для меньших моделей LLM.
- Кросс-платформенная совместимость с современными браузерами.
- Оптимизировано как для производительности, так и для управления ресурсами.
