Ollayaとは — Jev型判断モデルをローカルで動かす『判断モデル版Ollama』【使い方】

Ollayaは、LLM Chatではなく「判断モデル」をローカルで動かすためのOSSランタイムだ。テキストやメール、チケット本文、あるいは任意のJSONといった「状態」と、選択式（choice）・スコア（score）・真である確率を返すyes/no型（noul）で書かれた質問を渡すと、1回のフォワードパスでキャリブレーションされた確率をミリ秒単位で返す。CLIやAPIの体験はOllamaを踏襲しており、モデル名を指定してpullし、ローカルのデーモンでrun・serveする使い方はほぼそのままだ。2026年9月25〜26日ごろにHacker Newsのフロントページ入りし（462ポイント・117コメント）、TypeSafe AIが同月15日に発表したホスト型の判断モデルAPI「Jev System One」をローカルで動かす手段として注目された。

判断モデルは文章を生成しない。状態と型付きの質問を受け取り、各質問に対する確率（あるいはスコアの分布）だけを返す、いわば「賢いif文」だ。この性質から、Ollayaは次のような場面で使われている。

- サポートチケットのトリアージ — 返金意図か・緊急かどうか・チャーンリスクなどを1回の呼び出しでまとめて判定
- メールやチケットのルーティング — 部署・優先度・感情スコアを見てキューを振り分け
- LLMのガードレール — 生成前後の入力・出力をチェックし、危険な意図やポリシー違反を検知
- ワークフロー内の「賢いif文」 — 従来なら正規表現やルールベースで書いていた分岐条件を、確率付きの判断モデルに置き換える

OllayaはApache 2.0（個別モデルのライセンスは別）で公開されているオープンソースソフトウェアで、利用に料金はかからない。トークン課金もない。主な導入方法と動作環境は以下の通り。

セットアップの流れはOllamaとほぼ同じだ。上記のインストールコマンドを実行した後、ollaya serveでローカルデーモンを起動し、ollaya pull layaのようにモデルを取得する。動作確認はollaya runが手軽で、たとえばollaya run laya --preset triage "I was charged twice for my subscription this month and want a refund."を実行すると、intent refund 1.00 is_urgent no 0.88 frustration 1.76/3 0.36 refund_requested yes 0.90 churn_risk no 0.61のように、質問ごとの判定と確率が1回の呼び出しで返る。アプリケーションからはHTTP API（POST /api/decideや、Jev互換のPOST /v1/systemone）を叩くほか、TypeSafeの公式SDK（0.7.1で確認）の接続先をTYPESAFE_BASE_URL=http://localhost:11435に向けるだけでOllayaに切り替えられる。Claude CodeやCursorなどのMCPクライアントからはclaude mcp add ollaya -- ollaya mcpで追加でき、エージェントが判断モデルを直接呼び出せるようになる。モデルやサーバーの状態はollaya list（取得済み一覧）・ollaya ps（起動中モデル）・ollaya show（詳細）・ollaya stop／ollaya rmで管理する。挙動を環境変数で調整したい場合はOLLAYA_HOST・OLLAYA_MODELS・OLLAYA_KEEP_ALIVE・OLLAYA_DEVICE・OLLAYA_API_KEYが用意されている。

Ollayaは「ローカルLLMランタイム」と「ホスト型判断モデルAPI」のどちらとも違う、中間の立ち位置にある。

OllayaはTypeSafe AI公式のプロダクトではなく、TypeSafe Jevが2026年9月15日に発表したホスト型System One APIと配線互換のサードパーティOSSである点には注意したい。LLMのstructured output/JSON modeも似た用途で使われることがあるが、あれは大きな生成モデルに出力形式を強制するアプローチで、専用の小型判断モデルが1フォワードパスで確率を返すOllayaとは推論コストもレイテンシも一桁以上違う。

- 向いている: サポートチケットのトリアージやメール振り分けなど、大量の入力に対して型付きの判定を高速・低コストで繰り返し行いたいチーム
- 向いている: LLMエージェントの前後にガードレールとして挟み込み、危険な入力や逸脱した出力を確率付きで検知したい開発者
- 向いている: TypeSafe Jevで組んだアプリをオフラインやセルフホストで動かしたい、あるいはコストをゼロに近づけたいチーム
- 向いていない: 自然文の生成や要約、対話そのものが目的のユースケース（Ollayaは確率を返すだけで文章は生成しない）
- 向いていない: GPUどころかCPUリソースにも余裕がなく、外部APIに投げた方が運用が楽な小規模・低頻度の用途
- 向いていない: 2026年9月に広く知られ始めたばかりのプロジェクトで、成熟度・長期メンテナンス体制をまだ見極めたい保守的なチーム

OllayaはOllamaのCLI体験をそのまま踏襲しながら、生成ではなく『状態＋型付き質問→確率』を返す判断モデルをローカルで動かすためのOSSランタイムだ。TypeSafe Jevのホスト型APIと配線互換のエンドポイントを持つため、サポートチケットのトリアージやワークフロー内の分岐条件を、外部APIに依存せずセルフホストで動かしたいチームにとって選択肢になる。関連記事としてTypeSafe Jevとは — LLMの100倍速い「System One」判断モデル最速解説やTypeSafe Jev 実践ガイド — Choice/Score/Noulの書き方と活用アイデア12選も参考にしてほしい。