Qué hace Laya
Laya es un modelo de decisión "System 1" no autorregresivo publicado por Convai Innovations en Hugging Face y GitHub. Usted le proporciona un estado (un texto, correo electrónico, ticket de soporte u objeto JSON) y un conjunto de preguntas tipadas, y devuelve respuestas tipadas con probabilidades en lugar de texto generado. Existen tres tipos de pregunta: noul (sí/no), choice (elegir una de sus opciones) y score (una calificación ordinal). Cada opción se puntúa en su propio token marcador y se normaliza entre las opciones de esa pregunta, por lo que puede definir nuevas preguntas y etiquetas sin reentrenar, y el modelo no puede inventar una categoría ni devolver una salida mal formada. Las salidas incluyen probabilidades, conjuntos de predicción y enrutamiento de abstención o revisión.
Hay tres checkpoints: un modelo en inglés (backbone ModernBERT-large más una cabeza de decisión, 421M de parámetros, contexto de 512 tokens), un modelo multilingüe (mmBERT-base, 322M de parámetros, 1.024 tokens por defecto, hasta 8.192 con precisión variable a partir de unos 4.000) y un modelo de decisiones tipadas ajustado con el benchmark de Convai. Un Router envía el texto en inglés al checkpoint en inglés y todo lo demás al multilingüe. Se instala con pip install laya (Python 3.10+, PyTorch sobre CUDA, Apple MPS, XPU o CPU), se ejecuta laya-serve para un endpoint HTTP, o se usa la CLI; hay SDK o clientes para TypeScript, Go, Rust, Java, .NET y C++, integraciones para LangChain, LlamaIndex y CrewAI, un extra de MCP, una demo en Hugging Face Space y un notebook de Colab. Un motor Vega opcional añade entrada de imagen, audio y video.
