Hy4 preview 必要スペック早見表
VRAM 約385GB〜1.5TB【2026年8月・Tencent 770B MoE・1Mコンテキスト・Apache 2.0】
Hy4 previewを動かす必要メモリは4-bit量子化で約385GB、BF16フル精度なら約1.54TB。Tencentが2026年8月にApache 2.0で公開した総パラメータ770B・アクティブ49BのMoEで、1Mトークンのコンテキストに対応する。VRAM・GPU構成の早見表を整理する。
Hy4 previewをローカルGPUで動かすには、4-bit量子化で約385GB、量子化なしのBF16フル精度では約1.54TBの推論メモリ(VRAM合計)が目安になる。Tencent Hunyuan(Hy Team)が2026年8月28日にApache License 2.0で公開した、総パラメータ770B・アクティブパラメータ49BのオープンウェイトMoEで、最大1,048,576トークン(約1Mトークン)の長大なコンテキストを扱える。以下の早見表は重み容量に推論時のオーバーヘッド(KVキャッシュ・アクティベーション等)を加えた推定値であり、コンテキスト長やバッチサイズで変動する点に注意してほしい。結論を先に言えば、個人のローカル環境で常用するのは現実的ではなく、API利用か大規模GPUクラスタが基本の選択肢になる。
量子化別 VRAM 早見表(推定)
| 精度・量子化 | 概算メモリ(重み容量) | GPU構成例 |
|---|---|---|
| BF16(フル精度) | 約1.54TB | H200(141GB)×8+αでも単ノード超(2ノード級、B200等の大容量構成が現実的) |
| FP8 | 約770GB | H100/H200(80GB)×8=640GBでは不足、H200(141GB)×8=1,128GB構成が目安 |
| 4-bit(Q4_K_M相当) | 約385GB | H100/H200(80GB)×8=640GBの単ノードに収まる計算 |
| 3-bit相当 | 約290GB | 80GB級GPU×4〜5枚、または×8構成で余裕を持たせる |
上表はモデル重み容量(770B×ビット幅)ベースの概算で、実運用ではKVキャッシュ・アクティベーション分として1〜2割の上積みを見込む必要がある。1Mトークン級の長大なコンテキストをフルに使う場合はKVキャッシュがさらに増えるため、表の数値よりも余裕を持ったGPU構成にしておきたい。総パラメータの近いKimi K3(2.8T総パラメータ)の必要スペックや、同じくMoE構成のGLM-5.3-Flashの必要スペック、DeepSeek V4の必要スペックと比べても、770BクラスのHy4 previewはBF16で1TBを超える部類に入り、量子化なしでの個人運用はほぼ選択肢に入らない。

モデル仕様
| 項目 | 値 |
|---|---|
| 総パラメータ | 770B |
| アクティブパラメータ | 49B/トークン |
| 層数 | 78層(1層目は通常のdense FFN、残り77層がMoE) |
| エキスパート構成 | 各MoE層256 routed experts+1 shared expert、トークンごとにtop-8 routed+sharedを活性化 |
| hidden size | 6,144 |
| 語彙数 | 120,832 |
| Attention | Gated DeepSeek Sparse Attention(IndexCache併用) |
| コンテキスト長 | 1,048,576トークン(最大出力64,000トークン) |
| MTP(投機的デコード用)レイヤ | 10B総パラメータ/0.7Bアクティブ |
| ライセンス | Apache License 2.0(BF16版・FP8量子化版の重みを公開) |
MoEの誤解 — アクティブ49Bでも必要VRAMは総パラ770B基準
「アクティブパラメータが49Bしかないなら、中規模GPU構成でも動くのでは」という誤解は禁物である。MoE(Mixture-of-Experts)モデルは各トークンの処理時に呼び出すエキスパートを動的に切り替えるため、実際の計算量(FLOPs)は49Bアクティブ相当で軽いが、どのエキスパートが呼ばれるかは事前にわからないため、推論時には770B分の全エキスパート(256 routed experts+shared expert×77層)の重みをメモリ上に保持しておく必要がある。したがって必要VRAMを左右するのは総パラメータ770Bであり、アクティブパラメータ49Bは計算速度・スループットの軽さに寄与するだけである点を押さえておきたい。この構図はQwen3-8-Max(総パラメータ2.4T)のような超大規模MoEでも共通する。
1Mコンテキストとメモリ影響 — Gated DeepSeek Sparse Attention / IndexCache
Hy4 previewは最大1,048,576トークンという長大なコンテキストに対応するが、これをフルに使うとKVキャッシュの肥大化が推論メモリを大きく圧迫する。AttentionにはGated DeepSeek Sparse AttentionをIndexCacheと併用する構成が採られており、全トークン間の総当たり計算を避けて長コンテキスト時の計算量・メモリ増加を抑える設計になっているが、それでもコンテキストを伸ばすほどKVキャッシュ分のメモリは積み増しされる。上表のVRAM早見表はあくまで短〜中程度のコンテキストを前提にした概算であり、1M トークン級を常用する場合はさらに大きなメモリ余裕(数百GB単位の追加)を見込んでおく必要がある。
推論バックエンド(vLLM/SGLang・公式Docker・TP8・MTP投機的デコード)
推奨デプロイ先はvLLMまたはSGLangで、公式Dockerイメージとしてvllm/vllm-openai:hy4-previewとlmsysorg/sglang:hy4-previewがそれぞれ用意されている。テンソル並列(TP)8GPU構成を推奨構成としており、770Bという規模を考えると単一ノード内で複数GPUに重みを分散させるTP8はほぼ前提条件になる。また、10B総パラメータ/0.7BアクティブのMTP(Multi-Token Prediction)レイヤによる投機的デコードにも対応しており、対応バックエンド上で有効化すればデコード速度の向上が見込める。
ベンチマークと立ち位置
| ベンチマーク | Hy4 preview | 備考 |
|---|---|---|
| GPQA Diamond | 92.3 | Tencent公表値 |
| SWE-bench Pro | 65.7 | Tencent公表値 |
| SWE-bench Multilingual | 82.9 | Tencent公表値 |
| GLM-5.3・Kimi K3との比較 | 上回ったと説明 | Tencentの公表・社内評価による(第三者検証ではない) |
GPQA Diamond 92.3、SWE-bench Pro 65.7、SWE-bench Multilingual 82.9という数値をTencentは公表しており、社内評価ではGLM-5.3やKimi K3を上回ったと説明している。ただしこれらはTencent自身の公表・社内評価に基づく数値であり、第三者による独立検証の結果ではない点には留意したい。
APIを使う場合のコストとローカル実行との分岐点
OpenRouter経由のAPI価格は、Tencent Cloudが単独で提供する形で入力$0.834/1Mトークン、出力$2.501/1Mトークン、キャッシュ読み出し$0.042/1Mトークンとなっている。385GB〜1.54TBというGPUメモリを常時確保する固定費と比較すると、試験導入や利用量が読めない段階ではAPI利用の方が圧倒的に低リスクである。機密データを外部に出せない、あるいは大量かつ安定的に使い続けるといった要件が固まった段階で初めて、ローカル実行(それも個人環境ではなく大規模GPUクラスタ)のTCOを検討するのが定石になる。
誰が使うべきか/使うべきでないか
- 向いている: 大規模GPUクラスタ(TP8構成の80GB級×8以上)を自前で保有・運用できる組織、機密データを外部に出せずローカル推論が必須の大企業
- 向いている: API経由でTencent Cloudの提供する価格・性能をそのまま活用したい開発者・企業
- 向いていない: 個人のローカル環境で常用したいユーザー(4-bit量子化でも約385GBのVRAMが必要で、コンシューマー向けGPU構成では届かない)
- 向いていない: 単発の検証やプロトタイピングのために自前GPUクラスタを新設したいケース(まずはAPIで挙動を確認するのが先決)
FAQ
Hy4 previewは個人のローカルPCで動かせますか?
現実的ではない。最も軽い4-bit量子化でも約385GBの推論メモリが必要で、一般的なコンシューマー向けGPU構成には収まらない。API利用か、大規模GPUクラスタを保有する組織向けのモデルである。
アクティブパラメータが49Bなら中規模GPUでも動きますか?
MoEゆえの誤解である。推論時は770B分の全エキスパート重みをメモリに保持する必要があり、必要VRAMは総パラメータ770B基準で決まる。アクティブ49Bは計算量の軽さにしか寄与しない。
Hy4 previewのライセンスは商用利用できますか?
できる。Apache License 2.0で公開されており、商用利用・改変・再配布が広く認められている。
vLLMやSGLangですぐ使えますか?
使える。公式Dockerイメージvllm/vllm-openai:hy4-previewとlmsysorg/sglang:hy4-previewが用意されており、テンソル並列8GPU構成が推奨されている。
1Mトークンのコンテキストを使うと追加でどれくらいメモリが必要ですか?
Gated DeepSeek Sparse AttentionとIndexCacheによる圧縮効果があるものの、コンテキストをフル活用するとKVキャッシュが数百GB単位で積み増しされる可能性があるため、早見表の数値よりも大きな余裕を見ておく必要がある。
FP8版とBF16版はどちらを使うべきですか?
精度をほぼ落とさずメモリを半減できるFP8版(約770GB)が実用上の第一候補になる。BF16フル精度(約1.54TB)は単一ノードに収まりにくく、2ノード級以上の構成が前提になる。
この記事に関連する無料ツール(登録不要・その場で結果)
お気軽にご相談ください
お問い合わせ