Layaレビュー

Layaは、Convai InnovationsがHugging FaceとGitHubで公開している、非自己回帰型の「System 1」判断モデルです。状態(テキスト、メール、サポートチケット、JSONオブジェクト)と型付きの質問群を与えると、生成テキストではなく、確率付きの型付き回答を返します。質問の種類は3つあります。noul(はい/いいえ)、choice(用意した選択肢から1つを選択)、score(順序尺度の評価)です。各選択肢は、それぞれのマーカートークンでスコア化され、その質問の選択肢全体で正規化されるため、再学習なしで新しい質問やラベルを定義でき、モデルがカテゴリを捏造したり不正な形式の出力を返したりすることはありません。出力には、確率、予測セット、棄権(abstain)またはレビューへのルーティングが含まれます。

チェックポイントは3つあります。英語モデル(ModernBERT-largeバックボーンと判断ヘッド、421Mパラメータ、512トークンのコンテキスト)、多言語モデル(mmBERT-base、322Mパラメータ、デフォルトで1,024トークン、最大8,192まで対応し、約4,000を超えると精度にばらつきが出ます)、そしてConvaiのベンチマークでファインチューニングされた型付き判断モデルです。Routerは、英語のテキストを英語チェックポイントに、それ以外を多言語チェックポイントに振り分けます。pip install layaでインストールでき(Python 3.10以降、CUDA、Apple MPS、XPUまたはCPU上のPyTorch)、laya-serveでHTTPエンドポイントを起動するか、CLIを使用できます。TypeScript、Go、Rust、Java、.NET、C++向けのSDKまたはクライアント、LangChain、LlamaIndex、CrewAIとの連携、MCPエクストラ、Hugging Face Spaceのデモ、Colabノートブックが用意されています。オプションのVegaエンジンにより、画像、音声、動画の入力が追加されます。

LayaはApache 2.0ライセンスの無料のオープンソースで、モデルカードではコストが「$0 self-hosted」と記載されています。Convai Innovationsは有料のホスト型Laya APIを掲載していないため、費用は自社のハードウェアまたはクラウドの計算資源のみです。規模の目安として、カードのベンチマークは単一のTesla T4 GPUで実施されており、プリロードしたCPUのレイテンシは1回の呼び出しあたり193〜464 ms、ダウンロードサイズは約808 MB(英語)と647 MB(多言語)です。ファインチューニングのレシピは、Kaggleの無料の2x T4 GPUを対象としています。

価格はベンダーのモデルページで2026年11月10日に確認しました。Layaモデルカードをご覧ください。

Layaのモデルカードとリポジトリに記載されている内容は次のとおりです。

Layaは、大量の分類、トリアージ、ルーティング(サポートチケット、意図、スパム、モデレーションフラグなど)を行い、寛容なライセンスの下で、エアギャップ環境を含め自社でホストできる、高速で構造化された回答を求める開発者に適しています。自社の領域から数百件の例にラベルを付けられる場合に最も適しています。モデルカードによると、ベースのチェックポイントは型付き判断ベンチマークのゼロショットではほぼ偶然水準(精度0.362)で、ファインチューニング後にようやく0.766に達します。また、選択肢が多い質問では精度が低下し(77ラベルのBanking77セットで0.425)、確率は自社データで再較正する必要があります。

ファインチューニングなしで動作するホスト型の判断APIが必要な場合は、モデルカードがベンチマークに使用しているTypeSafeのJevを比較してください。学習可能なテキスト分類器を用いる従来型のNLPパイプラインについては、spaCyをご覧ください。自由形式の推論や生成された説明が必要な場合は、汎用のLLM APIの方が適しています。

ユーザーレビューは少なく、これまでの報道は、モデルカードを要約した技術系ニュースレターによるものです。i-SCOOP(2026年9月29日)は、Layaについて、捏造や不正な形式が起こらない固定の回答選択肢、ローカルで実行できるApache 2.0の重み、安全性に関する二値分類で強い結果を挙げている点を評価する一方で、ゼロショットのエンジンではなく「特化させるための高速なベース」であるとしています。その根拠として、ベースのチェックポイントの精度の低さ、ラベルが多い場合の大幅な低下、否定表現への脆弱さ、過信傾向のある確率を挙げています。また、ファインチューニングなしで幅広い精度を必要とするチームには、Jevのようなホスト型の選択肢の方が始めやすい可能性があると示唆しています。AI Weeklyは、このリリースをApache 2.0の421M ModernBERT判断モデルとして取り上げました。上記の速度と精度の数値はすべてConvai自身によるもので、T4で測定されています。カードに記載されたJevの数値は第三者が公表したもので、Convaiが測定したものではありません。