Análise do Laya

O Laya é um modelo de decisão "System 1" não autorregressivo, publicado pela Convai Innovations no Hugging Face e no GitHub. Você fornece um estado (um texto, e-mail, ticket de suporte ou objeto JSON) e um conjunto de perguntas tipadas, e ele retorna respostas tipadas com probabilidades, em vez de texto gerado. Existem três tipos de pergunta: noul (sim/não), choice (escolher uma das suas opções) e score (uma avaliação ordinal). Cada opção é pontuada em seu próprio token marcador e normalizada entre as opções daquela pergunta, de modo que você pode definir novas perguntas e rótulos sem novo treinamento, e o modelo não pode inventar uma categoria nem retornar uma saída malformada. As saídas incluem probabilidades, conjuntos de predição e encaminhamento para abstenção ou revisão.

Há três checkpoints: um modelo em inglês (backbone ModernBERT-large mais uma decision head, 421M de parâmetros, contexto de 512 tokens), um modelo multilíngue (mmBERT-base, 322M de parâmetros, 1.024 tokens por padrão, até 8.192, com precisão variável a partir de cerca de 4.000) e um modelo de decisões tipadas com fine-tuning no benchmark da Convai. Um Router envia texto em inglês ao checkpoint em inglês e todo o resto ao multilíngue. Você o instala com pip install laya (Python 3.10+, PyTorch em CUDA, Apple MPS, XPU ou CPU), executa laya-serve para um endpoint HTTP ou usa a CLI; há SDKs ou clientes para TypeScript, Go, Rust, Java, .NET e C++, integrações com LangChain, LlamaIndex e CrewAI, um extra para MCP, uma demonstração em Hugging Face Space e um notebook do Colab. Um mecanismo Vega opcional adiciona entrada de imagem, áudio e vídeo.

O Laya é gratuito e de código aberto sob a licença Apache 2.0; o model card indica seu custo como "$0 self-hosted". A Convai Innovations não lista uma API paga hospedada do Laya, portanto seus únicos custos são o seu próprio hardware ou a computação em nuvem. Como referência: os benchmarks do card foram executados em uma única GPU Tesla T4, a latência em CPU com pré-carregamento é de 193 a 464 ms por chamada, e os downloads têm cerca de 808 MB (inglês) e 647 MB (multilíngue). As receitas de fine-tuning têm como alvo as GPUs 2x T4 gratuitas do Kaggle.

Preços verificados na página do modelo do fornecedor em 10 de novembro de 2026. Consulte o model card do Laya.

O que o model card e o repositório do Laya listam:

O Laya é adequado a desenvolvedores que executam classificação, triagem e roteamento em grande volume (tickets de suporte, intenção, spam, sinalizações de moderação) e querem respostas rápidas e estruturadas que possam hospedar por conta própria, inclusive em ambientes isolados (air-gapped), sob uma licença permissiva. Ele se encaixa melhor quando você consegue rotular algumas centenas de exemplos do seu próprio domínio: o model card afirma que os checkpoints base ficam próximos do acaso em seu benchmark de decisões tipadas em zero-shot (0,362 de precisão) e chegam a 0,766 apenas após o fine-tuning, que a precisão diminui em perguntas com muitas opções (0,425 no conjunto Banking77, com 77 rótulos) e que as probabilidades devem ser recalibradas com os seus próprios dados.

Se você quer uma API de decisão hospedada que funcione sem fine-tuning, compare o Jev da TypeSafe, que o model card usa como referência em seu benchmark. Para pipelines clássicos de PLN com classificadores de texto treináveis, veja o spaCy. Se você precisa de raciocínio livre ou de explicações geradas, uma API de LLM geral é a ferramenta mais adequada.

As avaliações de usuários são escassas; a cobertura até agora vem de newsletters de tecnologia que resumem o model card. A i-SCOOP (29 de setembro de 2026) atribui ao Laya opções de resposta fixas que não podem ser inventadas nem malformadas, pesos Apache 2.0 que podem ser executados localmente e bons resultados binários do tipo segurança, mas o chama de "a fast base to specialise" (uma base rápida a ser especializada) em vez de um mecanismo zero-shot, citando a baixa precisão dos checkpoints base, uma queda acentuada com muitos rótulos, negação frágil e probabilidades com excesso de confiança. Sugere que equipes que precisam de ampla precisão sem fine-tuning podem achar mais fácil começar com uma opção hospedada como o Jev. A AI Weekly noticiou o lançamento como um modelo de decisão ModernBERT de 421M sob Apache 2.0. Todos os números de velocidade e precisão acima são da própria Convai, medidos em uma T4; os números do Jev no card são publicados por terceiros, não medidos pela Convai.