AMD Threadripper Halo Station とは
96コア・HBM3E 576GB のローカルAIワークステーション徹底解説【2026年9月】
AMD Threadripper Halo Stationは2026年9月4日IFA発表のデスクサイド型AIワークステーション。96コアCPUとMI350P最大4枚でHBM3E最大576GB・帯域16TB/sを実現し4bit量子化で1兆パラメータ級モデルの実行を狙う。価格・発売時期は未発表。2026年9月更新。
2026年9月4日、AMDはドイツ・ベルリンで開催されたIFA 2026の基調講演で、液冷式のデスクサイド型AIワークステーション「Threadripper Halo Station」を発表した。Threadripper PRO 9995WX(96コア/192スレッド)とAMD Instinct MI350P アクセラレータを最大4枚搭載し、GPUメモリ(HBM3E)は最大576GBに達する。AMDはこれを『the most powerful workstation in the world』と表現し、4bit量子化であれば1兆パラメータ級のモデルをGPUメモリ内で扱える、と説明している。ただし価格・提供時期・詳細な実効性能はいずれも本稿執筆時点で未発表であり、以下では発表された事実と報道による観測値を区別しながら整理する。
主要スペック早見表
| 項目 | 内容 |
|---|---|
| CPU | AMD Threadripper PRO 9995WX(Zen 5、96コア/192スレッド、ブースト最大5.4GHz) |
| システムメモリ | DDR5 最大2TB |
| アクセラレータ | AMD Instinct MI350P(PCIeカード)を最大4枚 |
| GPUメモリ | 1枚あたりHBM3E 144GB、4枚構成で合計576GB(IFA展示は2枚=288GB構成) |
| GPUメモリ帯域 | 1枚あたり4TB/s、4枚合計で最大16TB/s |
| システムメモリ込み合計 | 最大約2.6TB |
| 冷却方式 | 液冷(デスクサイド設置) |
| 価格 | 未発表(海外報道では10万〜15万ドル規模との観測あり) |
| 提供時期 | 未発表(海外報道では2027年出荷との観測あり) |
手元のGPU・Macで特定のモデルが動くかを確かめたい場合は、モデル・量子化・コンテキスト長を選ぶだけで必要VRAMを試算できるVRAM計算ツール(無料・登録不要)も用意している。ローカルLLMの必要スペックの考え方はローカルAIの必要スペックガイドも参照してほしい。
NVIDIA DGX Station との比較
| 項目 | Threadripper Halo Station | DGX Station(GB300 Ultra) |
|---|---|---|
| CPU | Threadripper PRO 9995WX(96コア) | Grace系CPU(NVIDIA) |
| GPUメモリ | HBM3E 最大576GB | HBM3E 252GB |
| GPUメモリ帯域 | 最大16TB/s | 7.1TB/s |
| CPU側メモリ | DDR5 最大2TB | LPDDR5X 496GB |
| コヒーレントメモリ合計 | 約2.6TB(AMD主張) | 748GB |
| CPU-GPU間接続 | 未発表 | NVLink-C2C 約900GB/s |
| 実売価格の観測値 | 未発表 | 約85,000ドル(MSIによる再販構成報道) |

AMDはDGX Station比で「システムメモリ3.4倍・メモリ帯域2倍超」と主張しているが、これはあくまでハードウェアの容量・帯域の比較であり、実際の推論スループットを保証するものではない。GPUメモリの絶対量が多くても、ソフトウェアスタック(ROCmとCUDAエコシステムの成熟度の差)や、モデルを分割・オフロードする際のオーバーヘッドによって実効性能は大きく変わりうる。この点はローカルLLM推論エンジンの比較記事で扱っている論点とも重なる。
1兆パラメータ級モデルは本当に載るのか
AMDが示した『1兆パラメータ級モデルを4bit量子化でGPUメモリ内に収める』という主張を概算で検証してみる。4bit(0.5バイト/パラメータ)で量子化した場合、パラメータ数×0.5バイトがモデル本体の重みサイズの目安になる。1兆パラメータであれば重みだけで約500GB前後となり、576GBのGPUメモリのほとんどを占有する計算になる。これに加えて推論時にはKVキャッシュ(コンテキスト長やバッチサイズに応じて増減するメモリ)が必要になるため、長いコンテキストや複数リクエストの同時処理を行う余裕は限られると考えられる。実際にどこまで載るかはモデルのアーキテクチャ(MoEか密なモデルか)やコンテキスト長設定に大きく左右されるため、以下はあくまで目安の概算である。KVキャッシュとコンテキスト長の関係はKVキャッシュとVRAMのガイドで詳しく解説している。
| 項目 | 概算値 | 備考 |
|---|---|---|
| 1兆パラメータ(4bit量子化) | 約500GB前後 | パラメータ数×0.5バイトの単純計算 |
| GPUメモリ総量(4枚構成) | 576GB | AMD発表値 |
| 重み搭載後の残り容量 | 約76GB前後 | KVキャッシュ・その他オーバーヘッド用 |
| 短いコンテキストでのKVキャッシュ | 数GB〜数十GB規模 | モデル構造・バッチサイズに依存 |
| 長いコンテキスト・大バッチ時 | 残り容量を圧迫しやすい | システムRAMへのオフロードが必要になり得る |
誰向けのマシンか、誰向けでないか
研究機関や大学の計算資源として、大規模モデルをオンプレミスで検証したい組織
機密データを外部クラウドに出せない企業で、ローカル環境でのファインチューニング・推論基盤が必要な情報システム部門
複数の大規模モデルを同時に扱う社内AI基盤を自前で構築したい大企業
個人開発者や小規模チームの検証用途 — クラウドGPUのオンデマンド利用の方がコスト効率は高い
数十億〜数百億パラメータ級のモデルで十分な一般的な業務利用 — Mac StudioやコンシューマRTXクラスのGPUで足りるケースが多い(巨大MoEモデルを小メモリで動かす手法はこの記事も参照)
価格・提供時期が未発表の段階で予算計画を立てる必要がある企業(現時点では情報不足)
現時点で分かっていないこと
正式な価格(海外報道の10万〜15万ドル規模はあくまで観測値)
国内での販売有無・販売時期
ROCmソフトウェアスタックでの主要フレームワーク(PyTorch、vLLM等)の対応状況と実効スループット
消費電力・電源要件・設置スペースの詳細
MI350P 4枚構成での実測ベンチマーク
出荷時期(海外報道の2027年という観測値の裏付け)
Threadripper Halo Stationの価格はいくらですか?
2026年9月時点でAMDから正式な価格は発表されていない。海外メディアでは10万〜15万ドル規模になるとの観測が報じられているが、これはあくまで推測値であり確定情報ではない。
発売時期はいつですか?
AMDから正式な発売時期は発表されていない。海外報道では2027年の出荷が観測されているが未確定である。
NVIDIA DGX Stationとどちらを買うべきですか?
GPUメモリ容量や帯域の数値だけを見るとThreadripper Halo Stationが優位に見えるが、CUDAエコシステムの成熟度やソフトウェア対応状況はDGX Station(NVIDIA)側に分がある。用途(既存のCUDA資産の有無、ROCm移行の許容度)で判断すべきで、現時点ではどちらが優れているとは一概に言えない。
MI350PはCUDAに対応していませんが、何のソフトウェアで動かすのですか?
AMD Instinct MI350PはNVIDIAのCUDAではなく、AMDのオープンソースソフトウェアスタックROCmで動作する。PyTorchやvLLMなどの主要フレームワークはROCm対応を進めているが、CUDAエコシステムほどの成熟度・実績があるかは現時点で検証が必要である。
1兆パラメータ級のモデルは本当に動きますか?
AMDは4bit量子化であれば1兆パラメータ級モデルをGPUメモリ内に収められるとしているが、これは重みのサイズに関する概算であり、KVキャッシュや実際の推論速度を保証するものではない。詳細なベンチマークは未公開であるため、実運用での性能は現時点で不明である。
この記事に関連する無料ツール(登録不要・その場で結果)
お気軽にご相談ください
お問い合わせ