AI2026-11-06約14分で読めます

ERNIE 5.5 Flash Base 必要スペック

FP8 約290GB / H100×4〜【280B MoE・2026年版】

ERNIE 5.5 Flash Baseの必要スペックを整理。280B MoEは重みだけでFP8約290GB・BF16約570GB（推定）で、H100 80GB×4がぎりぎりの目安。SGLang/vLLMでの起動手順と、チャット不可のBase版である注意点、ライセンス確認も解説。2026年11月更新。

ERNIE Baidu Requirements VRAM Open Weight LLM MoE

ERNIE 5.5 Flash Base は、Baidu が 2026年11月5日に公開したオープンウェイトの基盤（Base）モデルで、総パラメータ約280B・アクティブ約14Bのスパース MoE 構成である。必要メモリは精度で決まり、公式の FP8 重みで約280〜290GB、BF16 で約560〜570GB（いずれも重みのみ・推定）と、一般的なゲーミング GPU 1枚では動かない規模になる。H100 80GB×4（合計320GB）で FP8 がぎりぎり収まるかどうか、というのが現実的な下限の目安である（推定）。MoE のため速度は14B級だが、メモリは280B分すべて必要になる点に注意したい。

本記事の数値のうち、パラメータ数・構成・ベンチマーク・起動コマンドは公式発表とモデルカードの記載に基づく。一方、必要メモリ、GPU 構成、Apple Silicon・CPU オフロードの可否は、総パラメータ数からの単純計算による推定であり、公式の必要 GPU 数は公開されていない。また、このモデルは事前学習終了時点のチェックポイントである Base モデルで、チャット用途にそのまま向くものではない。

必要スペック早見表

精度	重みサイズ（推定）	構成の目安（推定）	備考
FP8（公式配布）	約280〜290GB	H100 80GB×4 でぎりぎり、H200 141GB×4・B200/B300×4 で余裕	HF の baidu/ERNIE-5.5-Flash-Base。safetensors 表示は286B
BF16（公式配布）	約560〜570GB	H100 80GB×8 以上、H200 141GB×8	HF の baidu/ERNIE-5.5-Flash-Base-BF16
4bit 量子化（コミュニティ版が出た場合）	約150〜170GB	H100×2 や 512GB の Mac が候補	公式の量子化版は2026-11-06時点で未提供
2〜3bit 量子化（同上）	約90〜120GB	128GB 級の Mac や大容量 RAM+GPU の混在構成	品質低下が大きくなりやすい

手元のGPU・Macで動くかをすぐ確かめたい場合は、モデル・量子化・コンテキスト長を選ぶだけで必要VRAMを試算できるVRAM計算ツール（無料・登録不要）も用意している。ERNIE 5.5 Flash Base もモデル一覧から選択できる。

上表は重みだけの目安で、実際にはこれに KV キャッシュ、CUDA コンテキスト、アクティベーション、通信バッファが加わる。余裕は重みサイズの10〜20%を見込むのが無難である（推定）。

ERNIE 5.5 Flash Base のモデル概要

項目	内容
公開日	2026年11月5日
総パラメータ数	280B（HF の safetensors 表示は埋め込み・出力ヘッド込みの286B）
アクティブパラメータ数	14B
構成	スパース MoE（Multi-Router Latent MoE）。512 routed experts、top-10 に加え shared expert 1
層数・隠れ次元・ヘッド数	43層・hidden 4096・64ヘッド
アテンション	ハイブリッド MLA＋HCA
その他の特徴	Manifold-Constrained Hyper-Connections、MultiMax 出力ヘッド、ECHO（multi-token prediction）、約200K語彙の BPE
学習	33.5Tトークンでスクラッチ事前学習、Muon オプティマイザ、FP8 混合精度
コンテキスト長	学習は128Kまで拡張、ファインチューニングと推論は1Mトークン対応（公開 config は1M有効）。サンプルコマンドは131,072
モデルの種別	Base（事前学習終了時点。mid-training・post-training なし）
ライセンス	ERNIE 5.5 Flash Base Model License Agreement v1.0

公式ページは https://ernie.baidu.com/release/ernie-5-5-flash-base/ 、重みは Hugging Face の baidu/ERNIE-5.5-Flash-Base（FP8、F8_E4M3）と baidu/ERNIE-5.5-Flash-Base-BF16（BF16）で配布されている。FP8 版が公式の標準形で、学習自体も FP8 混合精度で行われている。

MoE とメモリの関係 — 速度は14B級、メモリは280B分

MoE は、トークンごとに512個のエキスパートのうち top-10 と shared expert だけを計算に使う。そのため1トークンあたりの計算量とデコード速度は、アクティブ14B相当のモデルに近くなる。ただし、どのエキスパートが選ばれるかは入力ごとに変わるため、推論中にいつ呼ばれても良いよう、280B分の重みすべてを高速なメモリに置いておく必要がある。

つまり「14B だから軽い」とは言えない。計算は軽いがメモリは重い、というのが MoE の性質である。この点は、同じく総パラメータが大きい MoE を扱った Kimi K3.1 Pro の必要スペックでも同じ構造になっている。エキスパートを GPU 間で分散する expert parallel を使うと、重みの置き場所を分けつつスループットを稼げるが、GPU 間通信の速度が性能を左右する。

精度別の必要メモリ

重みサイズは「総パラメータ数 × bit数 ÷ 8」で概算できる。280Bの場合、FP8 は約280GB、BF16 は約560GBになる。HF の表示である286Bで計算すると、FP8 は約286GB、BF16 は約572GBである。以下はいずれも推定である。

- FP8: 約280〜290GB。公式配布の標準形で、4GPU の例コマンドもこの精度を前提にしている
- BF16: 約560〜570GB。ファインチューニングで勾配計算の精度を優先したい場合や、FP8 非対応のハードウェアで使う場合の選択肢
- 4bit（Q4相当）: 約150〜170GB。4.5〜4.8bit 相当の量子化形式なら 280B×4.8÷8 で約168GB。公式提供はなく、コミュニティ版の登場待ち
- 2〜3bit: 約90〜120GB。280B×2.6〜3.4bit÷8 の範囲。品質の劣化と、MoE 特有のエキスパート偏りによる不安定さに注意

KV キャッシュは MLA の採用で通常のアテンションより小さく済む。仮に1トークンあたり約50KB（潜在次元を DeepSeek 系と同程度と仮定した粗い推定で、ERNIE の実値ではない）とすると、131,072トークンで約6〜7GB、1Mトークンでは約50GB前後になる。HCA の分も含め実測が必要なので、長いコンテキストを使う場合は余裕を持たせたい。量子化の考え方は LFM3 の必要スペックの解説も参考になる。

GPU 構成別の目安

構成	合計メモリ	FP8（約290GB）	BF16（約570GB）
H100 80GB×4	320GB	ぎりぎり（短めのコンテキストなら可、推定）	不可
H100 80GB×8	640GB	余裕あり	ぎりぎり
H200 141GB×4	564GB	余裕あり	不可（重みだけで上限超え、推定）
B200 / B300 ×4	約720GB〜1TB超	余裕あり	収まる（推定）
A100 80GB×4	320GB	FP8 ネイティブ非対応のため非推奨	不可
RTX 4090 / 5090 単体	24GB / 32GB	不可	不可

公式の例コマンドは4GPU（SGLang は TP4 と attn-dp-size 4、vLLM は DP4 と expert parallel）で、必要な GPU 数や型番は明記されていない。SGLang の cookbook は B300 を参照している。H100×4 は、FP8 の重みだけでメモリの約9割を占めるため、KV キャッシュと実行時オーバーヘッドを考えるとコンテキスト長を大きく取れない（推定）。余裕を持って運用するなら、H200 や B200/B300 の4枚構成が現実的である。

また、FP8 のネイティブ演算は H100 以降の世代が前提になるため、A100 など旧世代では BF16 での運用になり、必要メモリが倍になる。

Apple Silicon での動作

Apple Silicon はユニファイドメモリのため、GPU 専用メモリの制限なく大きなモデルを載せられる。ただし現時点で公式の量子化版や MLX 版はなく、動かすには自前での変換か、コミュニティ版の登場が必要である。以下は4bit版が出た場合の推定である。

- 512GB 級（M3 Ultra、M4 Ultra が出れば同級）: 4bit 約150〜170GB が収まり、有力な候補。ただしメモリ帯域は GPU サーバより低く、プロンプト処理は遅くなりやすい
- 192GB 級: 4bit は載るが、KV キャッシュと OS の余地を考えると短いコンテキストに限られる
- 128GB 以下: 2〜3bit でも厳しく、実用的ではない
- 24GB 級の M シリーズ: 不可

Mac で複数のモデルを比べる前に、同様の大型 MoE を扱った Raon-1 Mini の必要スペックの記事で、メモリ容量の見方を押さえておくとよい。

CPU＋大容量 RAM でのオフロード

256GB 以上の RAM を積んだワークステーションなら、量子化版をCPU 側に置き、一部のレイヤーだけ GPU に載せる構成が理論上は可能である。MoE はアクティブ14Bなので、メモリ帯域が足りれば一定の速度が出る可能性はある。ただし、これは推定であり、対応する推論エンジン（llama.cpp 系など）がこのアーキテクチャ（ハイブリッド MLA＋HCA、Multi-Router Latent MoE）を実装しているかは未確認である。公式の例は SGLang と vLLM のみで、少なくとも発表時点では、手元の PC で気軽に試せる状況ではない。

SGLang と vLLM での起動手順

公式が示している推論手段は SGLang と vLLM の2つである。いずれも4GPU を前提にした例で、コンテキスト長は131,072に設定されている。以下は公式の例コマンドをそのまま整理したものである。実環境ではドライバ、CUDA、イメージのバージョンを必ず公式ページで確認してほしい。

SGLang は専用イメージ lmsysorg/sglang:dev-ernie-55-flash を使い、コンテナ内で次のように起動する。

sglang serve \
  --model-path baidu/ERNIE-5.5-Flash-Base \
  --tp 4 \
  --attn-dp-size 4 \
  --context-length 131072 \
  --port 30000

vLLM は vllm==0.32.0 に vLLM-ERNIE プラグインを組み合わせて使う。FP8 の KV キャッシュと expert parallel を有効にし、MoE バックエンドに humming を指定する。

vllm serve baidu/ERNIE-5.5-Flash-Base \
  --kv-cache-dtype fp8 \
  --enable-expert-parallel \
  --data-parallel-size 4 \
  --max-model-len 131072 \
  --moe-backend humming

公開 config は1Mトークンのコンテキストを有効にしているが、サンプルは131,072に絞っている。1Mを使う場合は KV キャッシュのメモリが増えるので、上の推定を参考に GPU を増やすか、コンテキスト長を下げて調整する。

Base モデルの使いどころ

ERNIE 5.5 Flash Base は、事前学習終了時点のチェックポイントで、mid-training も post-training も入っていない。公式は、チャット用の post-trained 版を後日公開すると記載している。そのため、指示に従って対話する用途にはそのままでは向かない。プロンプトを与えると文章の続きを生成する挙動が基本になる。

- ファインチューニングのベース: 自社データでの教師あり学習や、指示追従の追加学習の出発点にする
- 継続事前学習: 特定ドメインの文章を追加で学習させる
- 評価・研究: Base 同士の比較ベンチマーク、アーキテクチャ（MLA＋HCA、Hyper-Connections など）の検証
- 蒸留元: 小さなモデルへ知識を移す際の教師モデル
- 対話・チャット用途は後日公開の post-trained 版を待つのが無難

ファインチューニングを手元で行う場合、重みに加え勾配とオプティマイザの状態が必要になり、推論よりはるかに多くのメモリを要する。LoRA 系でも BF16 の重み約570GB 級が前提になるため、実質的にマルチノードの GPU が必要になる（推定）。

他モデルとの比較（公式ベンチマーク）

公式ページは、Base モデル同士の比較として DeepSeek-V4-Flash-Base、Hy3-preview-Base、MiMo-V2.5-Base を挙げている。以下は公式が示した ERNIE 5.5 Flash Base の値で、自社計測である点に注意したい。

ベンチマーク	設定	ERNIE 5.5 Flash Base
MMLU	5-shot	93.3
GPQA	5-shot	60.2
HumanEval+	1-shot	82.3
LongBench-v2	0-shot	48.7

公式の表では、多くの行で ERNIE 5.5 Flash Base が首位だが、ChineseSimpleQA や InfiniteBench などでは DeepSeek-V4-Flash-Base が上回っている。Base モデルの比較であり、チャット版の性能や実運用での使い勝手とは別の話である。導入判断では、自社の用途に近いデータでの検証が欠かせない。

ライセンスに関する注意

ライセンスは「ERNIE 5.5 Flash Base Model License Agreement v1.0」で、詳細はリポジトリの LICENSE ファイルに記載されている。商用利用の条件や再配布、派生モデルの扱いについて、モデルカードには要約がない。Apache 2.0 や MIT のような一般的なライセンスと同じだと決めつけず、商用で使う前に LICENSE の全文を必ず確認してほしい。

トラブルシューティング

- 起動時の CUDA out of memory: 重みが収まっていない。GPU 数を増やすか、--context-length（SGLang）や --max-model-len（vLLM）を下げる。H100×4 では特に起こりやすい（推定）
- 動き出した後の OOM: KV キャッシュやアクティベーションの分が足りない。コンテキスト長、同時リクエスト数、バッチを下げる
- vLLM でモデルが認識されない: vllm==0.32.0 と vLLM-ERNIE プラグインの組み合わせになっているか確認する。バージョン違いは典型的な原因
- SGLang で動かない: 通常のイメージではなく lmsysorg/sglang:dev-ernie-55-flash を使う
- 応答が会話にならず文章の続きになる: Base モデルの仕様。post-trained 版を待つか、自前で追加学習する
- ダウンロードが遅い・失敗する: FP8 版で約290GB。ディスクの空きと帯域を確認し、hf の再開機能を使う
- GGUF が見つからない: 2026-11-06 時点で公式の量子化版はなく、コミュニティ版の登場を待つ

ERNIE 5.5 Flash Base の必要メモリはどれくらいですか？

重みだけで、公式の FP8 版が約280〜290GB、BF16 版が約560〜570GB（いずれも推定）です。これに KV キャッシュと実行時の余裕を加える必要があります。公式は必要 GPU 数を明記しておらず、例コマンドは4GPU です。

アクティブパラメータが14Bなら、小さな GPU でも動きますか？

動きません。MoE は計算量とデコード速度が14B級になるだけで、どのエキスパートが選ばれても良いよう280B分の重みをすべてメモリに置く必要があります。RTX 4090 や 5090 の単体では不可能です。

チャットボットとして使えますか？

そのままでは向きません。これは事前学習終了時点の Base モデルで、公式はチャット用の post-trained 版を後日公開すると記載しています。対話用途ならその公開を待つか、自前で追加学習をする必要があります。

Mac や PC で動かせますか？

2026年11月6日時点で GGUF など公式の量子化版はなく、推論の公式手段は SGLang と vLLM のみです。4bit 版が出れば 512GB 級の Mac が候補になりますが、これは推定です。一般的な PC では現実的ではありません。

商用利用はできますか？

ライセンスは ERNIE 5.5 Flash Base Model License Agreement v1.0 です。モデルカードに商用条件の要約はないため、リポジトリの LICENSE を確認してください。Apache 2.0 などと同じだと決めつけるのは避けてください。

コンテキスト長はどこまで使えますか？

学習は128Kまで拡張され、ファインチューニングと推論は1Mトークンに対応しており、公開 config は1Mが有効です。ただし公式のサンプルコマンドは131,072で、長くするほど KV キャッシュのメモリが増えます。

この記事に関連する無料ツール（登録不要・その場で結果）

VRAM計算ツールモデル・量子化を選ぶだけでローカルLLMの必要VRAMと動くGPU/Macがわかる

お気軽にご相談ください

お問い合わせ