Обзор Laya

Laya — это неавторегрессионная модель принятия решений «System 1», опубликованная компанией Convai Innovations на Hugging Face и GitHub. Вы передаёте ей состояние (текст, письмо, тикет поддержки или объект JSON) и набор типизированных вопросов, а она возвращает типизированные ответы с вероятностями вместо сгенерированного текста. Существует три типа вопросов: noul («да/нет»), choice (выбор одного из ваших вариантов) и score (порядковая оценка). Каждый вариант оценивается на собственном маркерном токене и нормализуется по вариантам данного вопроса, поэтому вы можете определять новые вопросы и метки без переобучения, а модель не может выдумать категорию или вернуть некорректный результат. Результаты включают вероятности, наборы прогнозов и маршрутизацию при воздержании или передаче на проверку.

Существует три чекпойнта: английская модель (основа ModernBERT-large плюс голова принятия решений, 421M параметров, контекст 512 токенов), мультиязычная модель (mmBERT-base, 322M параметров, по умолчанию 1.024 токена, до 8.192, при этом точность варьируется после примерно 4.000) и модель типизированных решений, дообученная на бенчмарке Convai. Router направляет английский текст в английский чекпойнт, а всё остальное — в мультиязычный. Установка выполняется командой pip install laya (Python 3.10+, PyTorch на CUDA, Apple MPS, XPU или CPU); для HTTP-эндпоинта запустите laya-serve или используйте CLI. Доступны SDK или клиенты для TypeScript, Go, Rust, Java, .NET и C++, интеграции с LangChain, LlamaIndex и CrewAI, дополнение MCP, демо в Hugging Face Space и блокнот Colab. Необязательный движок Vega добавляет ввод изображений, аудио и видео.

Laya бесплатна и имеет открытый исходный код по лицензии Apache 2.0; в карточке модели её стоимость указана как «$0 self-hosted». Convai Innovations не указывает размещённый платный API Laya, поэтому ваши единственные расходы — это собственное оборудование или облачные вычисления. Для масштаба: бенчмарки из карточки выполнялись на одном GPU Tesla T4, задержка на CPU с предзагрузкой составляет 193–464 мс на вызов, а объём загрузок — около 808 МБ (английская) и 647 МБ (мультиязычная). Рецепты дообучения рассчитаны на бесплатные 2x T4 GPU на Kaggle.

Цены проверены на странице модели у вендора 10 ноября 2026 г. См. карточку модели Laya.

Что указано в карточке модели и репозитории Laya:

Laya подходит разработчикам, которые выполняют классификацию, сортировку и маршрутизацию в больших объёмах (тикеты поддержки, определение намерений, спам, флаги модерации) и хотят получать быстрые структурированные ответы, которые можно разместить у себя, в том числе в изолированном контуре, на условиях либеральной лицензии. Модель лучше всего подходит, если вы можете разметить несколько сотен примеров из своей предметной области: в карточке модели сказано, что базовые чекпойнты на её бенчмарке типизированных решений в режиме zero-shot работают на уровне случайного угадывания (точность 0,362) и достигают 0,766 только после дообучения, что точность снижается на вопросах с большим числом вариантов (0,425 на наборе Banking77 с 77 метками) и что вероятности следует перекалибровать на ваших собственных данных.

Если вам нужен размещённый API принятия решений, работающий без дообучения, сравните с Jev от TypeSafe, который карточка модели использует в качестве эталона в бенчмарке. Для классических NLP-конвейеров с обучаемыми текстовыми классификаторами см. spaCy. Если вам нужны свободные рассуждения или сгенерированные пояснения, лучше подойдёт универсальный LLM API.

Отзывов пользователей мало; на данный момент материалы поступают из технических рассылок, пересказывающих карточку модели. i-SCOOP (29 сентября 2026 г.) отмечает у Laya фиксированные варианты ответов, которые нельзя выдумать или исказить, веса Apache 2.0, которые можно запускать локально, и сильные результаты в бинарных задачах типа безопасности, но называет её «быстрой основой для специализации», а не zero-shot-движком, ссылаясь на слабую точность базовых чекпойнтов, резкое падение при большом числе меток, нестабильную обработку отрицания и завышенную уверенность вероятностей. Издание полагает, что командам, которым нужна широкая точность без дообучения, может быть проще начать с размещённого решения вроде Jev. AI Weekly рассказало о релизе как о модели принятия решений на ModernBERT с 421M параметров под Apache 2.0. Все приведённые выше показатели скорости и точности принадлежат самой Convai и измерены на T4; показатели Jev в карточке опубликованы третьими сторонами и не измерялись Convai.