Nemotron 3.5 LightningとNeMo Switchyardとは — 常時稼働エージェント向け新スタック

NVIDIAは2026年8月11日、常時稼働型のAIエージェントが抱えるコストと速度の課題に応える2つの新プロダクトを発表した。1つは軽量なオープンモデル「Nemotron 3.5 Lightning」、もう1つはオープンソースのモデルルーティングライブラリ「NeMo Switchyard」である。Lightningは特化タスクを高速・大量に処理するための実行役、Switchyardはリクエストごとに最適なモデルへ自動的に振り分ける仕組みであり、両者は「常時稼働エージェント（always-on agents）」を精度を落とさずに安く速く回すための一対のスタックとして発表された。

AIエージェントが休みなく稼働し続ける場合、コード生成からコードレビュー、ツール利用、セキュリティ監視まで、あらゆるタスクを最上位のフロンティアモデルに投げてしまうと、精度は担保できてもコストと処理時間が膨らみやすい。実際にはタスクの難易度や求められる精度水準は一様ではなく、単純なチェックやパターン化された作業まで高価なモデルで処理するのは非効率である。NVIDIAが打ち出す「システム・オブ・モデルズ（system of models）」という考え方は、この非効率を解消するための設計思想だ。Nemotron 3 Ultraのような大型モデルがワークフロー全体を計画・統括し、Nemotron 3.5 Lightningのような軽量モデルがコードレビューやツール利用、セキュリティ監視といった特化タスクを高速に大量実行するという役割分担により、精度を落とさずにコストと時間を圧縮することを狙う。Nemotron 3 の必要スペック解説で扱ったNemotron 3シリーズは、この構想の土台となるモデル群である。

Nemotron 3.5 Lightningは、総パラメータ30B・アクティブパラメータ3BのMoE（Mixture of Experts）モデルで、「30B-A3B」という構成で呼ばれる。Mamba-2層とMoE層をインターリーブ（交互配置）し、一部にAttention層を組み合わせたハイブリッドアーキテクチャを採用しており、大型モデルNemotron 3 Ultraからの蒸留によって学習された、Nemotron 3シリーズの拡張モデルである。

- アーキテクチャ: Mamba-2層とMoE層のインターリーブ構成に、一部Attention層を組み合わせたハイブリッド型
- 学習方法: 大型モデルNemotron 3 Ultraからの蒸留により学習
- 性能claim（NVIDIA公式）: 同クラスのオープンモデル比で出力スループット最大4倍、タスク完了時間30%短縮。エージェント向けベンチマークPinchBenchで「フロンティアレベルの精度」を主張
- ライセンス: OpenMDW-1.1（パーミッシブ・商用利用可）。学習データと手法もライセンスが許す範囲で公開
- 入手先: Hugging Face（BF16版nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16とNVFP4量子化版の2形式）、ModelScope、OpenRouter（無料枠あり）、build.nvidia.com、NIMマイクロサービス
- カスタマイズ: NeMoを用いて独自ドメインデータによるポストトレーニングが可能

公式発表で言及されている動作環境は、H100 1枚またはDGX Sparkによるサービング、RTX PC・DGX Station・Jetsonでの実行である。いずれもシングルノードで扱えるサイズ感を意識した構成とされ、長コンテキストの利用や構造化されたツールコールにも対応する。総パラメータ30Bに対してアクティブパラメータが3Bにとどまるこの MoE構成のため、推論時の計算量は小さく、スループット面で有利に働きやすいという一般的な特性を持つ。具体的なVRAM所要量は公式資料で示されていないため、導入検討時はNVIDIAの公式情報を確認してほしい。

30B級のモデルとしては、Metaが公開したMuse Glimmer 30B の必要スペック解説で扱ったMuse Glimmer 30Bも比較対象になる。両者は総パラメータこそ近いものの、アーキテクチャとライセンスの方向性が異なる。

NeMo Switchyardは、AIエージェント向けに設計されたオープンソースのモデルルーティングライブラリである。各リクエストの内容を判定し、オープンモデル・プロプライエタリモデル・NVIDIA製モデルを横断して最適なモデルへ自動的に振り分ける。品質・遅延・コストのどれを優先するかはユーザー側でカスタマイズでき、既存アプリケーションを作り替える必要はない。NVIDIAの内部測定によれば、Switchyardを使ったルーティングは「Opus 4.8単体と比べ、フロンティアレベルの精度を維持したまま完了コストを約1/3に削減」できるという。GitHubで公開されており、各種パートナープラットフォームへの統合も進められている。

NVIDIAは複数のパートナー企業における実測値も公表している。

Nemotron 3.5 LightningはHugging FaceでBF16版とNVFP4版の2形式が公開されているほか、ModelScope、OpenRouter（無料枠あり）、build.nvidia.com、NIMマイクロサービス経由でも利用できる。NeMo SwitchyardはGitHubで公開されているオープンソースライブラリで、パートナープラットフォームへの統合も進行中だ。両プロダクトの詳細はNVIDIA公式ブログにまとまっている。

AIエージェントを業務に組み込む際、すべてのタスクを最上位モデルに任せる設計は精度面では安心だが、常時稼働させるほどコストが積み上がりやすい。タスクの難易度に応じてモデルを使い分け、ルーティングの仕組みで自動的に振り分けるという発想は、限られた予算でAIエージェントを運用したい中小企業や受託開発の現場にとっても参考になる考え方である。

Nemotron 3.5 Lightningは総パラメータ30B・アクティブ3BのMoEモデルとして特化タスクを高速・大量に実行する役割を担い、NeMo Switchyardはリクエストごとに最適なモデルへ振り分けることでコストを圧縮する。2つのプロダクトはいずれも「常時稼働エージェント」を精度を落とさずに安く速く回すための新しいスタックであり、大型モデルが計画し軽量モデルが実行するという役割分担の考え方は、今後のAIエージェント設計における一つの指針になりそうだ。