Laya 리뷰

Laya는 Convai Innovations가 Hugging Face와 GitHub에 공개한 비자기회귀(non-autoregressive) 방식의 "System 1" 의사결정 모델입니다. 상태(텍스트, 이메일, 지원 티켓 또는 JSON 객체)와 유형화된 질문 세트를 입력하면, 생성된 텍스트 대신 확률이 포함된 유형화된 답변을 반환합니다. 질문 유형은 세 가지입니다. noul(예/아니오), choice(제시한 선택지 중 하나 선택), score(순서형 평점)입니다. 각 선택지는 자체 마커 토큰에서 점수가 매겨지고 해당 질문의 선택지 전체에 걸쳐 정규화되므로, 재학습 없이 새로운 질문과 레이블을 정의할 수 있으며 모델이 없는 범주를 만들어내거나 잘못된 형식의 출력을 반환할 수 없습니다. 출력에는 확률, 예측 집합, 판단 보류(abstain) 또는 검토 라우팅이 포함됩니다.

체크포인트는 세 가지입니다. 영어 모델(ModernBERT-large 백본에 의사결정 헤드 추가, 421M 파라미터, 512 토큰 컨텍스트), 다국어 모델(mmBERT-base, 322M 파라미터, 기본 1,024 토큰이며 최대 8,192 토큰까지 가능하나 약 4,000 이후에는 정확도가 달라짐), 그리고 Convai의 벤치마크로 파인튜닝된 유형화된 의사결정 모델입니다. Router는 영어 텍스트는 영어 체크포인트로, 그 외는 모두 다국어 체크포인트로 보냅니다. pip install laya로 설치하며(Python 3.10 이상, CUDA, Apple MPS, XPU 또는 CPU에서 PyTorch 사용), HTTP 엔드포인트가 필요하면 laya-serve를 실행하거나 CLI를 사용할 수 있습니다. TypeScript, Go, Rust, Java, .NET, C++용 SDK 또는 클라이언트, LangChain, LlamaIndex, CrewAI 연동, MCP extra, Hugging Face Space 데모, Colab 노트북이 제공됩니다. 선택 사항인 Vega 엔진을 사용하면 이미지, 오디오, 비디오 입력이 추가됩니다.

Laya는 Apache 2.0 라이선스의 무료 오픈소스이며, 모델 카드에는 비용이 "$0 self-hosted"로 기재되어 있습니다. Convai Innovations는 호스팅형 유료 Laya API를 제공하지 않으므로, 비용은 자체 하드웨어 또는 클라우드 컴퓨팅 비용뿐입니다. 규모 참고: 모델 카드의 벤치마크는 단일 Tesla T4 GPU에서 실행되었고, 사전 로딩을 적용한 CPU 지연 시간은 호출당 193~464 ms이며, 다운로드 용량은 영어 약 808 MB, 다국어 약 647 MB입니다. 파인튜닝 레시피는 Kaggle의 무료 2x T4 GPU를 대상으로 합니다.

가격은 2026년 11월 10일에 공급업체의 모델 페이지에서 확인했습니다. Laya 모델 카드를 참조하십시오.

Laya 모델 카드와 저장소에 기재된 내용은 다음과 같습니다.

Laya는 대량의 분류, 분류 선별(triage), 라우팅(지원 티켓, 의도, 스팸, 검열 플래그)을 수행하며, 허용적 라이선스 아래 망 분리 환경을 포함해 직접 호스팅할 수 있는 빠르고 구조화된 답변을 원하는 개발자에게 적합합니다. 자체 도메인에서 수백 개의 예시에 레이블을 지정할 수 있을 때 가장 잘 맞습니다. 모델 카드에 따르면 기본 체크포인트는 유형화된 의사결정 벤치마크에서 제로샷 기준 무작위 수준에 가깝고(정확도 0.362) 파인튜닝 후에야 0.766에 도달하며, 선택지가 많은 질문에서는 정확도가 떨어지고(77개 레이블의 Banking77 세트에서 0.425), 확률은 자체 데이터로 재보정해야 합니다.

파인튜닝 없이 작동하는 호스팅형 의사결정 API를 원한다면, 모델 카드가 벤치마크 비교 대상으로 사용하는 TypeSafe의 Jev를 비교해 보십시오. 학습 가능한 텍스트 분류기를 갖춘 전통적인 NLP 파이프라인에는 spaCy를 참조하십시오. 자유 형식의 추론이나 생성된 설명이 필요하다면 범용 LLM API가 더 적합한 도구입니다.

사용자 리뷰는 드물며, 현재까지의 보도는 모델 카드를 요약한 기술 뉴스레터에서 나온 것입니다. i-SCOOP(2026년 9월 29일)은 Laya의 장점으로 만들어내거나 잘못된 형식이 될 수 없는 고정된 답변 선택지, 로컬에서 실행할 수 있는 Apache 2.0 가중치, 우수한 이진 안전성 유형 결과를 꼽지만, 기본 체크포인트의 낮은 정확도, 레이블이 많을 때의 큰 하락, 취약한 부정문 처리, 과신하는 확률을 근거로 제로샷 엔진이라기보다 "특화시키기 위한 빠른 기반"이라고 평가합니다. 파인튜닝 없이 폭넓은 정확도가 필요한 팀은 Jev 같은 호스팅형 옵션으로 시작하는 것이 더 쉬울 수 있다고 제안합니다. AI Weekly는 이번 출시를 Apache 2.0 하의 421M ModernBERT 의사결정 모델로 다루었습니다. 위의 모든 속도와 정확도 수치는 T4에서 측정한 Convai 자체 수치이며, 모델 카드의 Jev 수치는 제3자가 공개한 것으로 Convai가 측정한 것이 아닙니다.