「Open Weight LLM」のコラム

2026年9月7日にOpenBMBが公開したMiniCPM5-2B（2.52B・Dense・131Kコンテキスト・Apache-2.0）の必要RAM/VRAMは量子化次第で1.5GB台〜5GB台。GGUFのサイズ表とOllama/llama.cppでの動かし方、Qwen3.5-4Bとの比較をまとめた。

2026年9月8日にNex-AGIが公開したエージェント特化モデル群Nex-N2.5（Mini 35B／Pro 397B／Max 1.6T）の必要VRAMは、量子化と機種によって約22GBから1.6TB級まで幅がある。モデル別・量子化別の早見表とGPU/Apple Silicon構成の目安をまとめた。

DeepSeek V4.1-Flashが2026年9月10日発表。総552B・アクティブ8B/16BのMoEで、KVキャッシュは890バイト/tokenと前世代比約4分の1に圧縮された。MITライセンスで重み公開、商用利用も可能。API料金・必要VRAM早見表・公表済みベンチマークの結果を整理して解説する。

2026年9月時点、MBZUAI傘下IFMが公開したK2 Horizon（6モデル・0.9B〜375B）の必要VRAMは量子化次第で1GB未満から750GB級まで幅がある。モデル別・量子化別の早見表とGPU/Apple Silicon構成の目安をまとめた。

Upstage Solar-Open2-250B（アクティブ15BのMoE）の必要スペックを整理。GGUF量子化はIQ4_XSで約127GB、Q2_Kで約89GB、Q6_Kで約191GBが目安となる。公式推奨はH200×4〜8枚だが、単一96GB GPUでも動作可能。2026年9月時点の情報を基に解説する。

Qwen3.8-Flash-Nextを動かす必要メモリは量子化により約75GB（1-bit）〜354GB（BF16フル精度）が目安。125B総パラメータ・アクティブ約6BのオープンウェイトMoEで、MoEエキスパートオフロードを使えばRTX 4090 24GBのような単一コンシューマGPUでも動作報告がある一方、公式vLLM/SGLangのFP8サービングは250GB規模の複数GPUが必要。VRAM・量子化・GPU構成の早見表を整理する【2026年8月】。

Hy4 previewを動かす必要メモリは4-bit量子化で約385GB、BF16フル精度なら約1.54TB。Tencentが2026年8月にApache 2.0で公開した総パラメータ770B・アクティブ49BのMoEで、1Mトークンのコンテキストに対応する。VRAM・GPU構成の早見表を整理する。

GLM-5.3-Flashを動かす必要メモリは4-bit量子化で約190GB、BF16フル精度なら約740GB。話題のステルスモデル「Ox Alpha」の正体は320B総パラメータ／18BアクティブのオープンウェイトMoEだったと判明。VRAM・量子化・GPU構成の早見表を整理する【2026年8月】。

Ornith-1.5はVRAM 8GB〜800GBで動くMITライセンスのオープンウェイトLLM。9B・35B-A3B・397Bの3サイズを量子化別に整理し、GPU選定やKVキャッシュ増加の注意点、Ornith-1.0からの変更点まで解説する必要スペック早見表を丁寧に紹介する。2026年8月時点の情報。

2026年8月21日公開のDeepSeek-V4-Flash-Vision-Expは、8月31日にMITライセンスでHugging Faceにオープンウェイト公開された。API単価は変わらず、チェックポイントはFP4/FP8混在で168GB規模。ローカル実行の要件と、APIを使い続けるべきケースを整理した。

Unsloth Dynamic 3.0は学習後量子化(PTQ)のGGUF手法。imatrixキャリブレーションとレイヤー選択方式を刷新し、同じファイルサイズで他プロバイダ比top-1%精度が最大10%向上。2.0からの変更点、量子化ティア早見表、使い方をQwen3.8-27Bの実測値で解説。2026年8月更新。

2026年8月14日公開のGLM-5.3は、GLM-5.2と同じ743Bベースをpost-trainingのみで強化した。自社評価でコーディング能力が約50パーセント向上し、Terminal-Bench 3.0など複数のベンチマークでオープン系1位。ただし重みは未公開でAPI経由のみ利用できる点を整理する。

2026年8月15日にweightsが公開されたQwen3.8-27Bの必要VRAMを、公式配布ファイルの実容量から早見表で解説。Q4_K_Mは17.1GBで16GB GPUには載らず、IQ4_XS（15.7GB）が現実解となる。ライセンスはApache-2.0で商用利用可。

DeepSeek V4 Proの正式版「V4-Pro-0813」が2026年8月12日にGA到達し、主要ベンチマークが大幅改善した。だが8月16日からAPI料金が値上げされ、出力単価は約2.3倍に。MIT公開のエージェント基盤DeepSeek Harness v0.1も含めて実務判断のポイントを解説する。

Genesis Open Models Initiativeとは、米エネルギー省が2026年8月7日に発表した、科学研究向けオープンウェイトモデルを政府主導で継続的に開発する計画です。第1弾Genesis-Science-1はArcee AIと共同開発され、パラメータ数など詳細は現時点で未公表です。

Liquid AIが2026年8月公開したオンデバイス・エージェント特化モデル「LFM2.5-2.6B」を解説。パラメータ2.69B、メモリ2.5GB未満、128Kコンテキスト、ToolSandboxでQwen3.5-9Bを上回った公表値、量子化別メモリ目安、実測速度、ライセンス、動かし方まで網羅する。

Shieldstral 1.0 3BはMistral AIが2026年8月4日に公開したApache 2.0のオープンウェイト・マルチモーダル安全性審査モデルだ。BF16推論時のVRAM目安は16GBで、テキストと画像を単一モデルで一括審査できる。入出力フォーマットと動かし方のポイントをまとめて解説する。

Qwen3.8 Maxは2026年8月3日にアリババが発表した総パラメータ2.4TのスパースMoEモデルで、1トークンあたり約95Bを活性化する。SWE-bench解決率は87.3%。API料金は入力$2.00・出力$6.00/100万トークンから。オープンウェイト公開予告も解説する。2026年8月更新。

MiniMax H3は2026年8月3日にオープンウェイトが公開された、動画と音声を同時生成するモデル。ComfyUI推奨の最小構成なら配布ファイル合計は約42.5GB、VRAMはコミュニティ報告で24GB前後（12GBでも動作しうるとの報告あり）が目安。量子化別の必要スペックとGPU選びをまとめた早見表を示す。

WASTEは2.78兆パラメータのKimi K3をRAM29GBのノートPCで動かせるC製推論エンジン。NVMeから専門家重みをストリーミングし先読みルータで計算とI/Oを重ねる仕組みと実測スループット0.45〜0.62 tok/sを解説。ビルド手順やUSB外付けとの速度差、量子化、実用性の限界まで整理する。

LG AI Researchが2026年7月31日公開のK-EXAONE 2.0 750B-A37Bは総パラ750B・BF16で重み約1.5TB。FP8で750GB、4bit級でも375〜420GBが必要な条件と、Apache 2.0ライセンス・日本語対応・vLLM/SGLangのカスタムfork事情を整理します。

Moonshot AI が Kimi K3（2.8兆パラメータMoE）のweightsを2026年7月26日に公開。MXFP4で重みだけ約1.4TB、実質H100 80GB×64基級のクラスタが必要で単体GPUやMacでは動きません。必要ハードと現実的な3択を整理。

ローカルLLMを動かすとき、まず選ぶべきは Q4_K_M。VRAMに余裕があれば Q5_K_M / Q6_K で品質が上がります。GGUF量子化の命名規則、各レベルの品質・速度・VRAMのトレードオフ、IQ系（imatrix）との違い、用途別の選び方を解説。Updated July 2026。

LongCat-2.0はMeituan公開の1.6TパラメータMIT MoEモデル。ローカル実行はBF16で約3,800GB、INT4でも約970GB級のメモリが必要で個人PCでは動かない。必要スペック早見表とAPI料金（入力$0.75/出力$2.95・100万トークンあたり）を2026年7月時点でまとめた。

DeepSeek V4 をローカルで動かす必要メモリは、V4-Flash（284B）が4-bitで約160GB、V4-Pro（1.6T）が4-bitで約920GB。7月31日公開の V4-Flash-0731 はスペック据え置きで性能のみ向上した。量子化別のVRAM・RAM早見表、API料金、1MコンテキストのKVキャッシュ、旧モデル廃止への移行手順まで。Updated August 2026。

Nemotron 3 Nanoは4-bitで約18GB、Superは8×H100-80GB、UltraはNVFP4で4×B200が公式の目安。NVIDIAのオープンウェイトMoE 3モデルの必要VRAM・GPU構成・量子化別メモリを早見表で整理する。2026年7月時点。

GLM-5.2（Z.ai）を動かす必要メモリは4-bit量子化で約430GB、BF16フル精度なら約1.5TB。753B総パラメータ／約40BアクティブのオープンウェイトMoE（MITライセンス）をローカル実行するためのVRAM・量子化・GPU早見表。2026年7月時点で最強クラスのオープンウェイトモデルの動作環境を整理。

Inklingの必要メモリは最小280GB（1-bit量子化）、4-bitで約600GB、BF16フル精度で1.9TB。975B総パラメータ/41BアクティブのオープンウェイトMoEを動かすVRAM・RAM・ディスク・量子化別要件を早見表で一覧化。2026年7月版。

Kimi K3は2.8兆パラメータのオープンウェイトMoE（weightsは2026年7月27日公開予定）。フロントエンドコードArenaで1位。API料金は入力$3/出力$15（100万トークン）。ローカル実行は推定650GB〜1TBでサーバー級が必要。K2からの違いを解説。

Moonshot AI（北京）が2026年6月12日に公開したコーディング特化新フラッグシップ **Kimi K2.7-Code** を、[Hugging Face モデルカード](https://huggingface.co/moonshotai/Kimi-K2.7-Code)・[MarkTechPost](https://www.marktechpost.com/2026/06/12/moonshot-ai-releases-kimi-k2-7-code-a-coding-model-reporting-21-8-on-kimi-code-bench-v2-over-k2-6/)・[VentureBeat](https://venturebeat.com/technology/kimi-k2-7-code-cuts-thinking-tokens-30-practitioners-say-benchmarks-dont-check-out)を一次ソースに整理。**1T 総パラメータ / 32B アクティブ MoE**（384 expert / 8 active + 1 shared）、**256K コンテキスト**、MoonViT ビジョンエンコーダ400M、INT4 ネイティブ、思考モード強制有効。**Modified MIT License**（月間1億 MAU または $20M MRR 超でのみ Kimi K2 表示義務）、API は **入力 $0.95 / キャッシュヒット $0.19 / 出力 $4.00 per 1M トークン**（Claude Opus 4.8 の出力単価約1/18）。OpenAI 互換 + Anthropic 互換 API で Claude Code / Cursor / Aider / Cline / cmux に即組込可能。**K2.6 比でベンチ +21.8%、思考トークン -30%** と Moonshot 自社主張、ただし **公式ベンチがすべて自社プロプライエタリで SWE-bench Verified / Pro / FrontierCode の独立検証スコアは2026年6月15日時点で未公開**（VentureBeat 批判）。日本企業視点では **(1) `api.moonshot.cn` および Singapore 子会社経由の `api.moonshot.ai` ともに中国国家情報法第7条の compelled-disclosure リスク（2025年2月 PPC DeepSeek 注意喚起・デジタル庁事務連絡の precedent）、(2) Hugging Face セルフホスト（≥4-8 H100 / INT4 595GB）が Mizuho / Lion の Qwen 国内ファインチューン precedent パターンに沿った唯一の確実解** という2大論点を率直に整理しています。