Avis sur Laya

Laya est un modèle de décision « System 1 » non autorégressif, publié par Convai Innovations sur Hugging Face et GitHub. Vous lui fournissez un état (un texte, un e-mail, un ticket de support ou un objet JSON) et un ensemble de questions typées, et il renvoie des réponses typées accompagnées de probabilités, au lieu de texte généré. Il existe trois types de questions : noul (oui/non), choice (choisir parmi vos options) et score (une note ordinale). Chaque option est évaluée sur son propre token marqueur et normalisée sur l'ensemble des options de la question ; vous pouvez ainsi définir de nouvelles questions et étiquettes sans réentraînement, et le modèle ne peut ni inventer de catégorie ni renvoyer une sortie mal formée. Les sorties comprennent des probabilités, des ensembles de prédictions et un routage d'abstention ou de revue.

Il existe trois checkpoints : un modèle anglais (backbone ModernBERT-large plus une tête de décision, 421M de paramètres, contexte de 512 tokens), un modèle multilingue (mmBERT-base, 322M de paramètres, 1.024 tokens par défaut, jusqu'à 8.192 avec une précision variable au-delà d'environ 4.000), et un modèle de décisions typées affiné sur le benchmark de Convai. Un Router envoie le texte anglais au checkpoint anglais et tout le reste au checkpoint multilingue. Vous l'installez avec pip install laya (Python 3.10+, PyTorch sur CUDA, Apple MPS, XPU ou CPU), lancez laya-serve pour obtenir un point de terminaison HTTP, ou utilisez la CLI ; il existe des SDK ou clients pour TypeScript, Go, Rust, Java, .NET et C++, des intégrations pour LangChain, LlamaIndex et CrewAI, un extra MCP, une démo Hugging Face Space et un notebook Colab. Un moteur Vega optionnel ajoute la prise en charge des entrées image, audio et vidéo.

Laya est gratuit et open source sous licence Apache 2.0 ; la fiche du modèle indique son coût comme « $0 self-hosted ». Convai Innovations ne propose pas d'API Laya hébergée et payante : vos seuls coûts sont donc ceux de votre propre matériel ou de votre calcul cloud. À titre de repère : les benchmarks de la fiche ont été exécutés sur un seul GPU Tesla T4, la latence sur CPU avec préchargement est de 193 à 464 ms par appel, et les téléchargements représentent environ 808 MB (anglais) et 647 MB (multilingue). Les recettes de fine-tuning ciblent les GPU 2x T4 gratuits de Kaggle.

Prix vérifiés sur la page du modèle du fournisseur le 10 novembre 2026. Voir la fiche du modèle Laya.

Ce qu'indiquent la fiche du modèle et le dépôt de Laya :

Laya convient aux développeurs qui exécutent de la classification, du tri et du routage à grand volume (tickets de support, intention, spam, signalements de modération) et qui souhaitent des réponses rapides et structurées qu'ils peuvent héberger eux-mêmes, y compris en environnement isolé (air-gapped), sous une licence permissive. Il convient surtout si vous pouvez étiqueter quelques centaines d'exemples issus de votre propre domaine : la fiche du modèle indique que les checkpoints de base sont proches du hasard en zero-shot sur son benchmark de décisions typées (précision de 0.362) et n'atteignent 0.766 qu'après fine-tuning, que la précision diminue sur les questions comportant de nombreuses options (0.425 sur le jeu Banking77 à 77 étiquettes), et que les probabilités doivent être recalibrées sur vos propres données.

Si vous souhaitez une API de décision hébergée qui fonctionne sans fine-tuning, comparez Jev de TypeSafe, que la fiche du modèle utilise comme référence de benchmark. Pour les pipelines NLP classiques avec classifieurs de texte entraînables, consultez spaCy. Si vous avez besoin de raisonnement libre ou d'explications générées, une API de LLM généraliste est un meilleur outil.

Les avis d'utilisateurs sont rares ; la couverture à ce jour provient de newsletters technologiques qui résument la fiche du modèle. i-SCOOP (29 septembre 2026) attribue à Laya des options de réponse fixes qui ne peuvent être ni inventées ni mal formées, des poids Apache 2.0 pouvant fonctionner en local et de solides résultats binaires de type sécurité, mais le qualifie de « fast base to specialise » (base rapide à spécialiser) plutôt que de moteur zero-shot, en citant la faible précision des checkpoints de base, une forte baisse avec de nombreuses étiquettes, une négation fragile et des probabilités trop confiantes. Il suggère que les équipes qui ont besoin d'une précision large sans fine-tuning trouveront peut-être plus simple de démarrer avec une option hébergée comme Jev. AI Weekly a couvert la sortie comme un modèle de décision ModernBERT de 421M sous Apache 2.0. Tous les chiffres de vitesse et de précision ci-dessus proviennent de Convai lui-même, mesurés sur un T4 ; les chiffres de Jev dans la fiche sont publiés par un tiers et n'ont pas été mesurés par Convai.