Magnitude（ローカル推論サーバ）とは — ハードウェアに合うモデルを自動選定するOSSツール【2026年版】

Magnitude（magnitudedev/magnitude）は、オープンソースのローカル推論サーバである。マシンのハードウェアをプロファイリングし、そのマシンで動く最良のモデルを推薦してダウンロード・チューニングし、Claude Codeなど既存のコーディングエージェントにそのまま差し込んで動かす設計になっている。ライセンスはApache License 2.0で、公式GitHubリポジトリでは「Run your agent on local models. Free, private, and offline.」と説明している。

公式README・公式サイトが挙げている機能は次の通り。いずれも一次情報（GitHubリポジトリ・magnitude.dev）で確認できる記述である。

- 無料で動く: トークン課金・APIキー・レート制限が一切ない（"no token costs, API keys, or rate limits"）
- 完全にオフライン・プライベート: モデル・プロンプト・ファイルはマシンの外に出ない（"models, prompts, and files stay on your machine"）
- ハードウェアを把握する: チップ・メモリ・帯域幅をプロファイリングする（"profiles your chip, memory, and bandwidth"）
- オンデマンドでモデルをロード: 必要な時に読み込み、アイドル時やメモリ逼迫時にアンロードする
- 推測的デコーディングなどのチューニングを自動化: speculative decodingや並行度の設定をマシンに合わせて自動調整すると説明している
- カタログ外モデルにも対応: Hugging Faceから互換GGUFモデルをダウンロードして使うこともできる

Magnitudeの中核は、ユーザーがモデルを選ぶのではなく、Magnitudeがマシンに合うモデルを選んでくる点にある。既存のローカル実行ツールの多くは「動かしたいモデルを自分で選び、量子化レベルも自分で判断する」運用が前提になっている。これに対しMagnitudeはREADMEで「Why not just have my agent set up Ollama?」というFAQに対し、「エージェントはあなたのハードウェアも、どの量子化が収まるか、どれくらいの速度で動くかを知らずに推測することになる。Magnitudeはあなたのマシン向けに計算済みの推薦リストと、ハーネス設定を書き込むオンボーディングフローを提供する」（要旨、原文は"Your agent would be guessing..."）と説明している。この「ハードウェアに基づく自動推薦」が、Ollamaなどとの明確な差別化点になっている。

Magnitude自体はOSSであり無料で利用できる。トークン課金やサブスクリプションは発生しない（モデルのダウンロード・実行に伴う電気代やディスク容量は別途必要）。手動インストールの手順は公式READMEで次のように示されている。

magnitude setupを実行すると、対話形式でハードウェアをプロファイリングし、推薦されたモデルの中から選択、ダウンロード後にハーネス（利用中のエージェント）へ接続するところまでを行う。対応OSはmacOSとLinuxで、Windowsに関してはWSL経由でのサポートとなる（2026年9月7日時点、公式README記載）。

Magnitudeが公式に対応を明記しているハーネス（既存のコーディングエージェント）は、Pi・OpenCode・Hermes・OpenClaw・Codex・Claude Code・Oh My Pi・Clineの8つである。Magnitude独自の組み込みハーネスを使うこともできる。最短手順は、コマンドを自分で打つのではなく、使っているエージェントに次のプロンプトをそのまま渡す方式が公式に推奨されている。

- 使用中のエージェント（例: Claude Code）に次の指示を送る: 「Set up local models for me with the Magnitude CLI. Install it with npm i -g @magnitudedev/cli (or my package manager), then run magnitude docs onboarding and follow the instructions.」
- エージェントがハードウェアをプロファイリングし、そのマシンに合うローカルモデルの候補を提示する
- 選んだモデルをダウンロードし、エージェント自身の設定をそのモデルに切り替える
- セットアップ後は基本的に放置でよく、Magnitudeがバックグラウンドで常駐し、必要な時にモデルをロード・アンロードする

なお、OpenAI互換エンドポイントとして手動でエンドポイントURLを設定する具体的な手順は、2026年9月7日時点で確認した公式README・公式サイトのトップページには明記されていない。接続はCLIのオンボーディングフローが各ハーネスの設定ファイルを自動で書き込む形で行われる、という説明にとどまる。細かいAPI仕様が必要な場合は公式ドキュメント（docs.magnitude.dev）を参照する必要がある。

ローカルでLLMを動かす手段はMagnitude以外にも複数存在する。代表例がOllama、LM Studio、llama.cpp、vLLM、LocalAIである。いずれも「モデルをローカルで動かす」点は共通だが、Magnitudeが差別化しているのは「どのモデルを動かすかをマシンに合わせて自動で決める」部分であり、他のツールは基本的にユーザー自身がモデルと量子化を選ぶ前提で設計されている。

整理すると、Ollamaは軽量なCLIでモデルを手動指定して動かす用途、LM StudioはGUIでモデルを探して試したい個人利用者向け、llama.cppはあらゆるツールの土台になる低レベルな推論エンジン、vLLMは本番サーバでのスループット重視の大規模サービング、LocalAIはOpenAI/Anthropic互換APIを自前で立てたい開発者向け、という棲み分けになる。Magnitudeはこれらと競合するというより、「どれを選ぶか」という最初の意思決定コストを肩代わりする層として位置づけられる。

Magnitudeは公式に「固定の最低ハードウェア要件はない。ハードウェアをプロファイリングしてマシンに合った最良のモデルを推薦する」（"There's no fixed minimum..."）としており、メモリが多いほど大きなモデルを動かせるという説明にとどまる。具体的にどのモデルがどれくらいのVRAM・メモリを必要とするかを事前に把握したい場合は、モデル・量子化・コンテキスト長を選ぶだけで必要VRAMを試算できるVRAM計算ツール（無料・登録不要）も用意している。Magnitudeの推薦を待たずに、手元のGPUやMacでどのクラスのモデルまで現実的に動くかの当たりをつける用途に使える。 どのモデルを載せるかを具体的に検討する段階では、6モデルが同時公開されたK2 Horizon 必要スペック早見表や、クラウドとローカルを処理単位で使い分けるPerplexity Hybrid Computeの考え方もあわせて参照してほしい。

- 向いている: Claude CodeやCodexなど既存のコーディングエージェントを、API課金なしでローカルモデルに切り替えたい個人開発者
- 向いている: 自分でGGUFの量子化レベルやコンテキスト長を調べて選ぶのが面倒で、推薦に任せたい人
- 向いている: プロンプトやコードを外部のクラウドAPIに送りたくない、社外秘コードを扱う個人〜小規模チームの開発端末
- 向かない: 本番環境で多数のリクエストを同時にさばく大規模なサーバサイド推論基盤が必要な場合（vLLMなどの方が適する）
- 向かない: macOS/Linux以外（Windowsネイティブ）で単体動作させたい場合（WSL経由の対応にとどまる）
- 向かない: カタログにないモデルを完全に自由なパラメータでチューニングしたい上級ユーザー（llama.cppを直接使う方が制御の自由度は高い）

- 対応OSはmacOSとLinuxのみで、Windowsは公式にはWSL経由のサポートにとどまる（2026年9月7日時点の公式README記載）
- 想定用途は個人の開発マシンでエージェントをローカルモデルに接続することであり、本番サーバでの大規模同時提供を明示的に想定した設計ではない
- 開発ステータス（alpha/beta等の明示的な段階表記）は、2026年9月7日時点で確認した公式README・公式サイトには記載がなかった
- OpenAI互換エンドポイントとしての詳細な手動接続手順は、確認した一次情報の範囲では明記されておらず、公式ドキュメント（docs.magnitude.dev）側の記載に依存する
- GitHubスター数は2026年9月上旬時点で3,000台後半まで伸びており、GitHub Trendingにも掲載された比較的新しいプロジェクトである（具体的な数値は情報源により3,300超〜3,700前後とばらつきがあり、日々変動する）