Inkling（Thinking Machines）必要スペック早見表

Inklingを動かすには、量子化なしのBF16フル精度で約1.9TB、最も軽い1-bit量子化でも280〜295GBのVRAM・RAMが必要になる。4-bit量子化でも約600GBが目安であり、いずれの構成でも一般的なコンシューマー向けPC・ノートPCでは動作しない。975B総パラメータ・41Bアクティブのオープンウェイト MoE（Mixture-of-Experts）モデルであり、複数GPUを搭載したサーバーか、512GBクラスの大容量メモリサーバー、もしくは大容量ユニファイドメモリを積んだMac Studio Ultraのような環境が前提になる。

なお、Thinking Machinesが公式に提供するNVIDIA Blackwell最適化のNVFP4量子化チェックポイントは最小VRAM約600GB、BF16では集計VRAMとして約2TBが目安とされている。

InklingはThinking Machines Labが2026年7月15日に発表した、同社初のオープンウェイトモデルである。66層のデコーダーのみトランスフォーマーによるスパースMoEアーキテクチャを採用し、総パラメータ数975B、トークンあたりのアクティブパラメータ数は約41B（1トークンにつき6エキスパートが活性化）。テキスト・画像・音声の入力に対応するマルチモーダルモデルで、コンテキストウィンドウは最大1,048,576トークン（100万トークン）に達する。テキスト・画像・音声・動画を含む45兆トークンで学習されており、「思考量を制御できる（controllable thinking effort）」機能を備える。ライセンスはApache 2.0で、ファインチューニングや商用利用が無償かつロイヤリティフリーで可能。Hugging FaceおよびThinking Machines自社のTinkerプラットフォームからダウンロードできる。ノートPCでも動作する軽量級モデルとの違いを把握するには、Gemma 4の必要スペック解説と比較するとわかりやすい。

量子化とは、モデルの重み（パラメータ）を表現するビット数を減らすことでメモリ使用量を圧縮する技術である。Inklingの場合、BF16（16bit）のフル精度から1-bitまで圧縮すると、必要メモリは1.9TBから280〜295GBへと大幅に削減されるが、精度維持率も100%から74.2〜77.4%まで低下する。ビット数と精度・メモリのトレードオフの基本的な考え方は、量子化とハードウェア要件の解説記事でも詳しく扱っている。4-bit量子化は精度維持率94.4%とメモリ削減のバランスが良く、実運用でよく選ばれる水準である。

24〜32GBクラスの一般的なコンシューマーGPU単体でInklingを保持することはできない。最も軽い1-bit量子化でも約280GBのメモリが必要であり、実運用には以下のいずれかの環境が求められる。

Apple SiliconではMetalがデフォルトで対応しており、GPU固有のフラグ設定は不要である。ただし1-bit量子化モデルを動かすにはRAM+VRAM合計で約290GB以上が必要となるため、事実上Mac Studio Ultraクラスのユニファイドメモリを搭載した機種が前提になる。VRAMが不足する場合は--n-gpu-layersオプションで部分的なGPUオフロードを行うことも可能。

Inklingは SGLang、vLLM、TokenSpeed、llama.cpp といった主要な推論エンジンでのデプロイに対応している。llama.cpp向けにはダイナミックGGUF量子化（1-bit/2-bit）が提供されており、NVIDIA Blackwell向けにはネイティブのNVFP4量子化チェックポイントが用意されている。

オープンウェイトMoEモデルの中でも、Inkling（975B総パラメータ）はさらに巨大なKimi K3（2.8T総パラメータ）には及ばないものの、いずれも一般的なコンシューマー環境では動作しないサーバー級モデルという点で共通する。一方、Gemma 4のようにノートPCでも動作する軽量モデルとは対照的に、Inklingはマルチモーダル対応・100万トークンコンテキスト・975Bパラメータという規模を活かした、サーバー／高性能マシン向けの選択肢という位置づけになる。