NVIDIA Nemotron 3 必要スペック早見表

NVIDIAのオープンウェイトモデル Nemotron 3 は Nano（31.6B総／約3.2Bアクティブ）・Super（120B総／12Bアクティブ）・Ultra（550B総／55Bアクティブ）の3モデル構成で、4-bit級の量子化（NVFP4）での推論メモリはそれぞれ約18GB・約69GB・約317GBが目安になる。BF16フル精度では約73GB・約276GB・約1.27TBに跳ね上がる。いずれもMoE（Mixture-of-Experts）だがアクティブパラメータが小さいだけで、推論時は全エキスパートの重みを保持するため、必要メモリは総パラメータ数で決まる点に注意したい。

実務上の結論を先に書くと、Nanoはコンシューマ向けGPU 1枚で動くが、SuperとUltraはデータセンター級GPUの複数枚構成が前提である。以下、モデル別に整理する。

上表はモデル重みの容量に約15%の推論オーバーヘッド（KVキャッシュ・アクティベーション等）を加えた概算である。Nemotron 3は最大1Mトークンのコンテキストに対応するが、長大なコンテキストを実際に使う場合はKVキャッシュがこの見積もりを大きく超えて増えるため、公式のモデルカードでもデフォルト設定は262,144トークン（256k）に抑えられている。

推定値だけでなく、NVIDIAとvLLMが公式に提示している動作構成も押さえておきたい。こちらが実運用時の確実な基準になる。

Ultraを8×H100（合計640GB）で動かすにはNVFP4量子化が必須で、BF16では16枚必要になる。逆にBlackwell世代のB200であればNVFP4で4枚に収まり、GPU枚数が半分以下になる。NVFP4はBlackwellのネイティブフォーマットであり、Nemotron 3はこの形式で事前学習されているため、量子化による精度劣化が後付けの4-bit量子化より小さいと説明されている点も特徴である。

Nemotron 3はNVIDIAが公開するオープンウェイトのLLMファミリーで、重みだけでなく学習データとレシピも公開されている点が他のオープンウェイトモデルとの違いになる。ライセンスは NVIDIA Nemotron Open Model License で、商用利用が認められている。

アーキテクチャは Mamba-2 と Transformer のハイブリッドに Latent MoE（LatentMoE）を組み合わせた構成である。系列長に対して線形時間で処理できるMamba-2層を主体とし、精密な推論が必要な箇所にAttention層を挟む形をとる。これにより、1Mトークンという長大なコンテキストでも計算量の増加を抑えられる。さらにMulti-Token Prediction（MTP）層を持ち、構造化出力では最大3倍の実時間短縮が報告されている。

Nanoは総パラメータ31.6B・アクティブ約3.2Bで、2025年12月に公開された。4-bit量子化なら約18GBに収まるため、RTX 4090（24GB）やRTX 5090（32GB）といったコンシューマGPU 1枚で動作する。FP8（約36GB）を狙う場合はRTX 6000 Ada（48GB）クラス、あるいは24GB×2枚構成が必要になる。BF16（約73GB）はApple Siliconの96GB／128GBユニファイドメモリ機か、H100 1枚が現実的な選択肢である。

性能面では、単体のH200 GPUでQwen3-30Bの約3.3倍のスループットを出すとされる。アクティブパラメータが3B台と小さいMoEであるため、メモリさえ確保できれば生成速度は同クラスの密モデルより有利になりやすい。

Superは120B総／12Bアクティブで2026年3月11日に公開された。IT運用の自動化やエージェント協調といった高頻度ワークロード向けと位置づけられている。BF16の最小要件は8×H100-80GBだが、NVFP4量子化版なら単体のB200、あるいはDGX Sparkでの動作が可能とされており、この「1台に載る」点がSuperの実用上の価値になる。

NVIDIAは前世代のNemotron Superに対して5倍のスループット、H100上のFP8比で4倍のメモリ・演算効率を主張している。vLLMでの提供にも対応し、Superは vLLM 0.18.1 以降で --tensor-parallel-size 8・--kv-cache-dtype fp8・--max-model-len 262144 といった設定が公式に案内されている。

Ultraは550B総／55Bアクティブで、2026年6月4日にHugging Faceで公開された。Artificial AnalysisのIntelligence Indexで47.7を記録し、米国製オープンウェイトモデルとしては最上位に位置づけられる。vLLMは公開当日（day-0）からサポートしており、vllm/vllm-openai:v0.22.0 コンテナと --mamba-backend triton・--reasoning-parser nemotron_v3 などハイブリッドアーキテクチャ固有のフラグが必要になる。

オープンウェイトの最前線では GLM-5.2（753B）・Kimi K3（2.8T）・DeepSeek V4・Qwen3.6 といった中国発モデルが上位を占めており、Ultraはそこに対する米国側の回答という位置づけになる。同規模帯の必要スペックはGLM-5.2 必要スペック早見表やInkling（Thinking Machines）必要スペックと比較すると把握しやすい。

Nemotron 3で選択肢になるのはBF16・FP8・NVFP4の3つである。NVFP4はBlackwell世代（B200／GB200／GB300／B300／RTX PRO Blackwell）でハードウェア支援が効く4-bit浮動小数点形式で、Hopper世代（H100／H200）でも動作はするが本来の速度は出ない。Ampere世代（A100）はFP8のハードウェア支援を持たないため、実質BF16運用になり必要メモリが倍増する点に注意したい。

個人・小規模検証（〜50万円）: Nano 4-bit を RTX 4090／5090 1枚で。1Mコンテキストを使わなければ24GBで十分
ワークステーション（100〜300万円）: Nano BF16 または Super NVFP4 を Mac Studio（128GB以上）や DGX Spark で。単体機で完結する上限帯
サーバー1台（1,000万円〜）: Super NVFP4 を B200 1枚、または Super BF16 を 8×H100 で
クラスタ（数千万円〜）: Ultra NVFP4 を 4×B200 または 8×H100 で。BF16運用なら 8×B200／16×H100

自社の環境で目的のモデルが動くかを個別に確認したい場合は、モデルサイズ・量子化・コンテキスト長から必要VRAMを算出できるVRAM計算ツールが使える。より軽量なモデルとの比較検討にはGemma 4 必要スペック早見表も参照してほしい。

Nemotron 3特有のつまずきどころとして、まずMamba-2ハイブリッド構成であるためvLLM側に専用の設定が要る点が挙げられる。--mamba-backend triton と --mamba-ssm-cache-dtype float32 の指定が公式コマンドに含まれており、これを省くと起動に失敗するか性能が出ない。またSSMのステートキャッシュはKVキャッシュとは別枠でメモリを消費するため、上表の見積もりに対してさらに余裕を見ておきたい。

メモリ不足でロードに失敗する場合の対処順は、①コンテキスト長を1Mから256k以下に下げる、②--kv-cache-dtype fp8 でKVキャッシュを圧縮する、③同時実行シーケンス数（--max-num-seqs）を絞る、④量子化フォーマットを一段下げる、の順で影響が小さい。公式のUltra向けサンプルでも最大16シーケンス・32,768バッチトークンと控えめな値が使われている。