「Apache 2.0」のコラム

Hy4 previewを動かす必要メモリは4-bit量子化で約385GB、BF16フル精度なら約1.54TB。Tencentが2026年8月にApache 2.0で公開した総パラメータ770B・アクティブ49BのMoEで、1Mトークンのコンテキストに対応する。VRAM・GPU構成の早見表を整理する。

Needle 2は45Mパラメータ・単一14MBバイナリで動くCactus Compute製のオンデバイス・エージェント向け小型LLM。tool calling／device use／structured extractionに特化し、Raspberry Pi 5から廉価スマホまで動作。仕組みと導入方法を解説（2026年8月更新）。

Google DeepMind が2026年6月10日に NVIDIA との同時アナウンスで公開した **DiffusionGemma**（`google/diffusiongemma-26B-A4B-it`、25.2B 総 / 3.8B アクティブ MoE）を、[Google 公式ブログ](https://blog.google/innovation-and-ai/technology/developers-tools/diffusion-gemma-faster-text-generation/)・[ai.google.dev モデルカード](https://ai.google.dev/gemma/docs/diffusiongemma/model_card)・[Hugging Face](https://huggingface.co/google/diffusiongemma-26B-A4B-it)・[NVIDIA 公式](https://blogs.nvidia.com/blog/rtx-ai-garage-local-gemma-diffusion/) を一次ソースに整理。**自己回帰（AR）モデルが左から右へ1トークンずつ生成するのに対し、Diffusion 言語モデル（DLM）はマスク／ノイズに満たされた256トークンキャンバスを並列に脱ノイズして文章へ変換する**。1 forward あたり15-20トークン確定、最大48 denoising steps、H100 で 1,000+ tok/sec、RTX 5090 で 700+ tok/sec、AR 版 Gemma 4 比 約 3.5-4 倍。一方で **MMLU Pro 77.6 vs 82.6、GPQA 73.2 vs 82.3、MMMU Pro 54.3 vs 73.8** と公式は AR 版に対する **品質劣後を率直に明言**。Apache 2.0、Hugging Face / Vertex AI / NVIDIA NIM 提供、業界初のオープン重み大規模拡散 LLM。日本企業のオンプレ社内エージェント・コード補完・低レイテンシ業務での意義と、Mercury（Inception Labs）/ LLaDA / Gemini Diffusion との位置づけまで整理しています。

Google DeepMind が2026年6月3日に公開した Gemma 4 12B を、[公式ブログ](https://blog.google/innovation-and-ai/technology/developers-tools/introducing-gemma-4-12b/) と [Developer Guide](https://developers.googleblog.com/gemma-4-12b-the-developer-guide/) をベースに徹底解説。本モデル最大の特徴は **encoder-free multimodal アーキテクチャ** — Vision Encoder（旧モデルで約5.5億パラメータ）を **35M パラメータの軽量 embedder + 行列乗算1回** に置換し、Audio Encoder（12層 Conformer）は完全削除して raw 音声を直接 LLM の埋め込み空間に投影する設計。16GB VRAM のノート PC（Copilot+ PC / Apple Silicon Mac）で動作、Apache 2.0 ライセンス、Hugging Face / Ollama / LM Studio / MLX / Vertex AI で即利用可能。本コラムは技術的背景、26B MoE に迫るベンチマーク主張、Gemma 4 ファミリー（E2B/E4B/26B/31B）の中での位置づけ、Llama 4 / Qwen 3.5 / Phi-5 との競合関係、日本企業のオンプレ AI / 音声業務 / データ主権要件への適合性までを公式情報ベースで整理しました。

Google I/O 2026 で再強調された Gemma 4（2B〜31B、256K コンテキスト、140言語、Apache 2.0）と Google AI Studio の大型更新（Kotlin Vibe Coding・Cloud Run ワンクリックデプロイ・Managed Agents API）の全貌を整理します。社内 LLM 導入、データ主権、ローカル実行の判断軸を含め、IT コンサルタントの視点で解説。

Alibaba Qwen Team が 2026年4月22日に公開した Qwen 3.6-27B Dense モデルの概要解説。SWE-bench Verified 77.2、Terminal-Bench 2.0 で 59.3（Claude 4.5 Opus と並ぶ）、262K-1M コンテキスト、Apache 2.0 ライセンス、RTX 3090 で 40 tok/s（Q4_K_M）など、公式情報と公開ベンチマークを整理。

2026年3月リリースのMistral Small 4は、推論・マルチモーダル・エージェントコーディングを1モデルに統合した119B MoE。Apache 2.0ライセンスで商用利用可能、日本語を含む11言語対応。スペック・導入手順・比較を完全解説。

楽天が開発した約7000億パラメータのRakuten AI 3.0のMixture of Expertsアーキテクチャを徹底解説。8エキスパート構成、アクティブパラメータ400億の効率性、日本語MT-Benchで8.88を達成した技術的背景を詳しく紹介します。