「llama.cpp」のコラム

GitHub Trendingで注目を集めたJustVugg/colibriを解説。GLM-5.2（744B）をディスクからのエキスパートストリーミングで一般PCで動かす仕組み、対応モデル、ビルド・使い方、必要スペック、llama.cpp・Ollama・Edge0・turbo-fieldfareとの違いを整理する。

Unsloth Dynamic 3.0は学習後量子化(PTQ)のGGUF手法。imatrixキャリブレーションとレイヤー選択方式を刷新し、同じファイルサイズで他プロバイダ比top-1%精度が最大10%向上。2.0からの変更点、量子化ティア早見表、使い方をQwen3.8-27Bの実測値で解説。2026年8月更新。

ローカルLLMを動かすとき、まず選ぶべきは Q4_K_M。VRAMに余裕があれば Q5_K_M / Q6_K で品質が上がります。GGUF量子化の命名規則、各レベルの品質・速度・VRAMのトレードオフ、IQ系（imatrix）との違い、用途別の選び方を解説。Updated July 2026。