GLM-5.3-Flash 必要スペック早見表
VRAM 約190GB〜740GB【2026年8月・320B MoE・Ox Alpha正体】
GLM-5.3-Flashを動かす必要メモリは4-bit量子化で約190GB、BF16フル精度なら約740GB。話題のステルスモデル「Ox Alpha」の正体は320B総パラメータ/18BアクティブのオープンウェイトMoEだったと判明。VRAM・量子化・GPU構成の早見表を整理する【2026年8月】。
GLM-5.3-Flashの必要メモリは4-bitで約190GB、フル精度なら約740GB
GLM-5.3-FlashをローカルGPUで動かすには、4-bit量子化で約190GB、量子化なしのBF16フル精度では約740GBの推論メモリ(VRAM合計)が目安になる。Z.aiが2026年8月26日に公開した、総パラメータ320B・アクティブパラメータ18BのオープンウェイトMoE(MITライセンス)で、ネイティブマルチモーダル(画像・動画入力対応)かつ最大1,048,576トークンの長大なコンテキストを扱える。以下の早見表は重み容量に推論時のオーバーヘッド(KVキャッシュ・アクティベーション等)を加えた推定値であり、コンテキスト長やバッチサイズで変動する点に注意してほしい。
必要スペック早見表(環境別)
| 環境タイプ | 想定構成 | 現実性 |
|---|---|---|
| Apple Silicon Mac | Mac Studio 192GB〜512GB(Unified Memory) | 4-bitなら192GBクラスでも動作圏内、余裕を見るなら512GB |
| NVIDIA マルチGPU | H100(80GB)×3枚、またはH200(141GB)×2枚 | 4-bit運用の現実的な最小構成 |
| ワークステーションGPU | RTX 6000 Blackwell(96GB)×2枚 | 4-bitでほぼぴったり、余白は少ない |
| クラウドGPUインスタンス | A100/H100系を時間課金 | 検証・試験導入向き、常時稼働は割高になりやすい |
量子化別 VRAM 早見表(推定)
| 量子化 | 推論メモリ(VRAM合計・推定) | 精度維持の目安 |
|---|---|---|
| 1-bit(IQ1系) | 約45〜50GB | 大きく低下(用途は限定的) |
| 2-bit | 約90GB | 中程度の低下 |
| 3-bit | 約140GB | 実用範囲 |
| 4-bit(Q4系) | 約190GB | 実用上ほぼ問題なし |
| 8-bit(FP8) | 約370GB | ほぼ無損失 |
| BF16(フル精度) | 約740GB | 100% |
上表はモデル重み容量(320B×ビット幅)に約15%の推論オーバーヘッドを加えた概算である。1Mトークン級の長大なコンテキストを使う場合はKVキャッシュがさらに増えるため、実運用ではより多くの余白を見ておきたい。総パラメータが753BとGLM-5.3-Flashより大きい前世代のGLM-5.2の必要スペックと比べると、同じ4-bit量子化でも必要メモリはおよそ半分弱に収まる計算になる。なお、モデルカードや配布元によって「約」の丸め方が異なる場合があるため、実際に導入する際はHugging Face上の各量子化版(GGUF・FP8・NVFP4など)のファイルサイズを合計し、自分の環境で最終確認することをおすすめする。
ステルスモデル「Ox Alpha」の正体はGLM-5.3-Flashだった
2026年8月中旬、OpenRouterやOpenCode経由で無償公開され話題になっていた匿名モデル「Ox Alpha」の正体は、2026年8月26日にZ.aiが公式発表した。Ox Alphaステルスモデルの解説記事で追った通り、その正体はGLM-5.3-Flashである。総パラメータ320B・アクティブパラメータ18BのMoEで、30兆トークン規模のマルチモーダルコーパスで学習されている。linear attention(局所依存関係の状態モデリング)とsparse attention(軽量インデクサによるグローバル文脈の検索)を組み合わせたハイブリッド構成を採用し、長コンテキスト時にはIndexPoolと呼ぶ仕組みでインデクサのキー・ベクトルを重み付きプーリングにより圧縮することで、KVキャッシュのメモリ消費を抑えている。学習・推論とも中国製AIチップ上で行われたとZ.aiは公表している。ナレッジワーク遂行能力を測るGDPval-AA v2ベンチマークでは、Claude Opus 4.8・GPT-5.6 Terra・Gemini 3.7 Flashと比較しても最高水準のスコアを記録したとZ.aiは発表しており、前世代のGLM-5.2比で推論コストは約10分の1に下がったとされる。総パラメータを753Bから320Bへと縮小しながら性能を維持・向上させている点が、GLM-5.3-Flashの技術的な見どころである。
Apple SiliconとNVIDIA GPUでの実行環境
Apple SiliconはUnified Memory(統合メモリ)をVRAMとして扱えるため、4-bit量子化で約190GBという水準はMac Studioの現実的な射程に入る。192GB構成では推論メモリのほぼ全てをモデル重みが占め、長いコンテキストやバッチ処理の余白は乏しくなるため、余裕を持たせたいなら512GB構成(M3 Ultra以降)が無難である。NVIDIA GPUで組む場合は、80GBのH100を3枚束ねて約240GB、あるいは141GBのH200を2枚束ねて約282GBを確保するのが4-bit運用の目安になる。ワークステーション向けのRTX 6000 Blackwell(96GB)なら2枚で約192GBとなり4-bitぎりぎりの構成になるため、8-bitやFP8で余裕を持たせたい場合はさらにGPUを追加する必要がある。
MoEの誤解 — アクティブ18Bでも必要VRAMは総パラ基準
「アクティブパラメータが18Bしかないなら、10GB台のGPUでも動くのでは」という誤解は禁物である。MoE(Mixture-of-Experts)モデルは各トークンの処理時に呼び出すエキスパートを動的に切り替えるため、実際の計算量(FLOPs)は18Bアクティブ相当で軽いが、どのエキスパートが呼ばれるかは事前にわからないため、推論時には320B分の全エキスパートの重みをメモリ上に保持しておく必要がある。したがって必要VRAMを左右するのは総パラメータ320Bであり、アクティブパラメータ18Bは計算速度・スループットの軽さに寄与するだけである点を押さえておきたい。

推論バックエンド(vLLM/SGLang/Unsloth)の対応状況
Z.aiはUnslothにday-0(公開当日)でモデルへのアクセスを提供しており、量子化済みの重み(GGUF、FP8など)がHugging Face上でUnslothから即日配布されている。本家の高機能版であるGLM-5.3の解説記事でも触れたとおり、Z.ai自身はSGLangをベースに符号化・プリフィル・デコードを分離した自社スタックで大規模提供を行っており、mainlineのvLLM・SGLangへの正式サポートは執筆時点で取り込み作業が進行中の段階である。GGUF形式に変換すればllama.cppやOllamaでも量子化実行できるため、環境構築時は各エンジンの対応状況を事前に確認してから着手するのが安全である。
ローカル実行 vs API のコスト分岐点、1Mコンテキストのメモリ増加、用途別推奨
Z.ai公式のAPI価格は入力$0.15/M・キャッシュ入力$0.03/M・出力$0.50/Mトークンで、2026年9月9日までのローンチ割引適用時はさらに半額になる(上位モデルの本家GLM-5.3は入力$1.40/M・出力$4.40/Mで別料金なので混同しないよう注意)。約190GB〜740GBのGPUメモリを常時確保する固定費と比較すると、試験導入や利用量が読めない段階ではAPI利用の方が低リスクである。機密データを外部に出せない、あるいは大量かつ安定的に使い続けるといった要件が固まった段階でローカル実行のTCOを検討するのが定石になる。1Mトークンの長大なコンテキストをフルに使う場合は、IndexPoolによる圧縮があってもKVキャッシュが数十GB単位で積み増しされるため、上記の早見表よりも余裕を持ったGPU構成にしておきたい。用途別には、コーディングやエージェント用途では長コンテキストとツール呼び出しの安定性を重視して8-bit以上を、マルチモーダル(画像・動画入力)を活かす用途ではメモリ帯域とスループットのバランスを見て4-bit運用を検討するのが現実的である。いずれの用途でも、まずAPIで挙動と品質を確認してから、必要に応じてローカル環境への移行を検討する順序がリスクを抑えやすい。
GLM-5.2からの変更点とトラブルシューティング
前世代のGLM-5.2(753B総パラメータ・約40Bアクティブ)と比べると、GLM-5.3-Flashは総パラメータが半分以下の320Bに縮小されながら、ネイティブマルチモーダル対応とlinear+sparse attentionのハイブリッド構成という新しい要素が加わっている。GLM-5.3-Flash単体でもGLM-5.2比で推論コストは大幅に下がっており、必要メモリ・GPU台数の両面でローカル導入のハードルは下がったと言える。ローカル実行中に「CUDA out of memory」等のメモリ不足エラーが出た場合は、量子化ビット数を1段階下げる、コンテキスト長の上限を絞る、バッチサイズ(同時リクエスト数)を減らす、KVキャッシュをオフロードする設定を確認する、といった順に対処するのが基本の流れになる。マルチGPU構成では、テンソル並列(tensor parallelism)の分割数がGPU枚数と噛み合っていないためにロードに失敗するケースもあるため、推論エンジンのドキュメントで推奨されるGPU枚数の組み合わせ(2の累乗など)を確認しておくとトラブルを避けやすい。
FAQ
GLM-5.3-FlashはOx Alphaと同じモデルですか?
はい。2026年8月26日にZ.aiが公式発表した内容によれば、OpenRouterなどで話題になっていたステルスモデル「Ox Alpha」の正体はGLM-5.3-Flashである。
コンシューマー向けGPU1枚で動きますか?
動かない。最も軽い1-bit量子化でも約45〜50GBの推論メモリが必要で、一般的な24〜32GBクラスのコンシューマーGPU1枚には収まらない。
アクティブパラメータが18Bなら小型GPUでも動くのでは?
MoEゆえの誤解である。推論時は320B分の全エキスパート重みをメモリに保持する必要があり、必要VRAMは総パラメータ320B基準で決まる。アクティブ18Bは計算量の軽さにしか寄与しない。
GLM-5.3-Flashのライセンスは商用利用できますか?
できる。MITライセンスで公開されており、商用利用・改変・再配布が広く認められている。
vLLMやSGLangですぐ使えますか?
Unslothはday-0で量子化済みの重みを配布しているが、mainlineのvLLM・SGLangへの正式統合は執筆時点で取り込み作業が進行中のため、利用前に各エンジンの対応状況を確認する必要がある。
1Mトークンのコンテキストを使うと追加でどれくらいメモリが必要ですか?
IndexPoolによる圧縮で抑えられているものの、コンテキストをフル活用するとKVキャッシュが数十GB規模で積み増しされるため、早見表の数値よりも余裕を持ったGPU構成にしておくのが安全である。
この記事に関連する無料ツール(登録不要・その場で結果)
お気軽にご相談ください
お問い合わせ