「On-device AI」のコラム

Needle 2は45Mパラメータ・単一14MBバイナリで動くCactus Compute製のオンデバイス・エージェント向け小型LLM。tool calling／device use／structured extractionに特化し、Raspberry Pi 5から廉価スマホまで動作。仕組みと導入方法を解説（2026年8月更新）。

Liquid AIが2026年8月公開したオンデバイス・エージェント特化モデル「LFM2.5-2.6B」を解説。パラメータ2.69B、メモリ2.5GB未満、128Kコンテキスト、ToolSandboxでQwen3.5-9Bを上回った公表値、量子化別メモリ目安、実測速度、ライセンス、動かし方まで網羅する。

WWDC 2026で発表されたApple第3世代Foundation Models（AFM 3）のフラッグシップ、AFM Core Advanced。20Bパラメータ Sparse MoEとApple独自のIFP技術により、iPhone 17 Proでフロンティア級の推論がオフライン完結。アーキテクチャの革新点、A19 Pro仕様、対応デバイスの制限、Gemini distillationをめぐる「完全Apple製」論争まで、ITコンサルの視点から徹底解説します。

MIT CSAIL スピンオフの Liquid AI が2026年6月初旬に Hugging Face に投入した日本語特化2モデル **`LFM2.5-1.2B-JP-202606`（言語、1.17B / 32K コンテキスト）** と **`LFM2.5-Audio-1.5B-JP`（音声、1.2B言語 + 115M FastConformer、24kHz、Speech-to-Speech）** を、公式モデルカードと Liquid 公式ブログを一次ソースに整理。**Liquid Neural Network 由来の独自アーキテクチャ**（16層 = 10 LIV 畳み込み + 6 GQA）、JMMLU 54.19 / J-MIFEval 79.08 / J-GSM8K 62.20 のサブ2Bクラス最高水準ベンチ、音声 ASR で CommonVoice 8 (ja) CER 4.42（Whisper-large-v3 の半分）一方で JSUT・ReazonSpeech では劣後する **ドメイン差**、Apache 2.0 ではない **LFM Open License v1.0**、Apple Silicon / AMD Ryzen AI / Qualcomm / NVIDIA / モバイル CPU 対応、Gemma 4 12B / Qwen 3.5 / TinySwallow / Sarashina との競合関係、日本企業のオンデバイス AI / コールセンター / 議事録 / 対面接客への適用判断までを整理。

Software Mansion が2026年5月8日に公開した **MCPベースの iOS / Android シミュレータ操作ツールキット Argent** と、Google の **Gemma 4 E4B（エッジ向けマルチモーダルモデル）** を組み合わせ、オンデバイスでアプリを自律操作させる潮流について一次ソースを精査しました。Argent の公式仕様（スクリーンショット主軸 + アクセシビリティ + プロファイリング、MCPサーバ実装）、Gemma 4 E4B の要件（約2.5GB / RAM 8GB+ / ネイティブ function calling）、Software Mansion 公式デモが実は **Gemini 3.5 Flash（クラウド）** を使っていた事実、別件で iPhone 17 Pro 上で動作確認された Gemma 4 E2B のデモとの違い、そして日本企業のモバイル QA / 社内アプリ自動化での現実的な適用判断までを公式情報ベースで整理しています。