Microsoft Aion 1.0 Instruct 必要スペック
2.3Bは4bitで約1.1GB、BF16でも約4.6GB【使い方・Phi-4-mini比較・2026年版】
MicrosoftがHugging Faceで公開した小型モデルAion 1.0 Instruct(2.3B・MIT)の必要スペック。重みはBF16で約4.6GB、4bitで約1.1GB。32Kコンテキストのメモリ計算、使い方、Phi-4-mini比較、Windows・Edgeでの位置づけまで整理。
Aion 1.0 Instruct(microsoft/Aion-1.0-Instruct-2.3B)は、重みだけならBF16で約4.6GB、8bitで約2.3GB、4bitで約1.1GBに収まる2.29Bパラメータの小型モデルである。 32Kトークンの文脈を使ってもKVキャッシュは約1.1GB(推定)にとどまるため、4bit版なら4GB RAMのPCでも動く計算になる。Microsoftの Windows & Devices 部門のApplied Sciences Groupが作り、2026年11月18日にHugging FaceでMITライセンスのオープンウェイトとして公開された。Edgeの内蔵モデルとしてPhi-4-miniを置き換えてGA(一般提供)となり、Windows本体の内蔵SLMにもなる予定だ。本稿では、モデルカード、config.json、Edge公式ブログ、Edge開発者ドキュメントの記載をもとに、必要スペックの計算、使い方、Phi-4-miniとの比較を整理する。
情報は2026年11月20日時点の一次情報(Hugging Faceのモデルカードとconfig.json、Microsoft Edge Blog 2026年11月19日付、Microsoft Learnの Prompt API ドキュメント)による。メモリ値のうちパラメータ数から計算したものは推定値と明記し、公式が示していない数値は「公式に記載なし」とした。
必要スペック早見表
| 精度 | 重みサイズの計算 | 重みのみ | 8Kコンテキスト込み(目安) | 32Kコンテキスト込み(目安) | 動かせる環境の目安 |
|---|---|---|---|---|---|
| BF16(公式配布) | 2.29B × 2バイト | 約4.6GB | 約5.0GB | 約5.7GB | 8GB VRAMのGPU、16GB RAMのPC・Mac |
| 8bit(INT8 / Q8) | 2.29B × 1バイト | 約2.3GB | 約2.7GB | 約3.4GB | 4GB VRAMのGPU、8GB RAMのPC・Mac |
| 4bit(INT4 / Q4) | 2.29B × 0.5バイト | 約1.1GB | 約1.6GB | 約2.3GB | 4GB RAMのPC、CPUのみでも可 |
計算式は「パラメータ数 × 1パラメータあたりのバイト数」である。公式のパラメータ数は2,288,831,488個(約2.29B)で、BF16は2バイトなので約4.58GB。実際の公式ファイル(model.safetensors)はHugging Faceの表示で約4.59GBと、計算とほぼ一致する。8bitと4bitは理論値で、実際の量子化ファイルは量子化方式によって数%〜20%ほど大きくなる(例えば4bit系のQ4_K_Mは1パラメータあたり約4.8bit前後で、約1.3〜1.4GBが目安。いずれも推定)。右2列のコンテキスト込みの値は、後述するKVキャッシュの計算値(8Kで約0.4GB、32Kで約1.1GB)を足したもので、ランタイムの作業領域は含まない。実運用では、これに2〜3割の余裕を見るとよい。
手元のGPU・Macで動くかをすぐ確かめたい場合は、モデル・量子化・コンテキスト長を選ぶだけで必要VRAMを試算できるVRAM計算ツール(無料・登録不要)も用意している。Aion 1.0 Instruct 2.3Bもモデル一覧から選択できる。
Aion 1.0 Instructとは — 何が公開されたのか
Aion 1.0 Instructは、Windows向けのオンデバイス用に作られた2.3Bパラメータの指示追従(Instruct)モデルである。モデルカードによれば、開発したのはMicrosoft Windows & DevicesのApplied Sciences Group。学習データは、前世代のWindows内蔵SLM「Phi Silica」で使ったデータの拡張版で、品質フィルタ済みの公開文書に、数学・コーディング・常識推論・一般知識の合成データを加えたものとされる。多言語データは全体の約6%と記載されている。
位置づけは三つある。第一に、Hugging Faceで公開されたMITライセンスのオープンウェイト。第二に、Microsoft Edgeの内蔵SLM。Edge公式ブログ(2026年11月19日)は、Aion InstructがEdge内蔵モデルとしてPhi-4-miniを置き換え、GAになったと説明している。第三に、Windows本体の内蔵SLMで、モデルカードは「コンテンツモデレーションモデルと組み合わせた最適化版を2027年1月末までにWindowsのOS SLMにする計画」と書いている。一方、Edge公式ブログは「Windowsへは今年中に来る」とだけ述べており、時期の書き方が一致していない。確定した日付は公式に記載がないため、2026年11月20日時点では「2027年1月末までの計画」という公式カードの表現にとどめる。
なお、公開されたのは量子化前のモデルで、モデルカードは量子化版が順次続くとしている。モデルカードによれば、Hub上には量子化モデルが8つあり、llama.cpp・Ollama・LM Studio・Janで使える。ただしそのうち、Microsoft公式のものとして確認できたのはONNX WebGPU版(microsoft/Aion-1.0-Instruct-2.3B-ONNX-WebGPU)で、GGUFやMLXの量子化版は第三者が作ったものが中心だった。公式のGGUFがあるかどうかは、本稿の時点で確認できていない。
アーキテクチャと仕様
| 項目 | 値(モデルカード・config.json) |
|---|---|
| パラメータ数 | 約2.29B(2,288,831,488、入出力の埋め込みは共有) |
| 種類 | 因果言語モデル(Causal LM)、指示チューニング済み |
| 層数 | 28層 |
| 隠れ層サイズ | 2048 |
| MLP中間サイズ | 8192(SiLU) |
| 注意機構 | GQA(クエリ24ヘッド、KV 8ヘッド、head dim 128) |
| 注意の配置 | ハイブリッド。スライディングウィンドウ層21(窓2048)+全注意層7 |
| 位置エンコード | RoPE(θ=32000)。全注意層にYaRN(係数16) |
| コンテキスト長 | 32,768トークン |
| 語彙数 | 200,029 |
| 精度 | bfloat16 |
| 知識のカットオフ | 2025年12月 |
| 対応言語 | 英語・ドイツ語・スペイン語・ポルトガル語・イタリア語・フランス語・中国語・日本語の8言語 |
| ライセンス | MIT |
目を引くのは語彙数の大きさだ。語彙200,029 × 隠れ層2048で、埋め込み層だけで約4.1億パラメータ(全体の約18%)になる。入出力で埋め込みを共有しているのでこの値で済んでおり、重みサイズの約2割は語彙の分である。もう一つは、28層のうち21層を窓2048のスライディングウィンドウ注意にし、全注意は7層だけにしている点で、これが次節のKVキャッシュの小ささにつながる。ツール呼び出しにも対応しており、<|tool|> で定義したツールに対してモデルが <|tool_call|> 形式で呼び出しを出力する。
KVキャッシュの計算 — 32Kでも約1.1GB
KVキャッシュは、1トークン・1層あたり「K と V の2つ × KVヘッド数8 × head dim 128 × 2バイト(BF16)」で4,096バイト(4KiB)になる。全注意の7層は文脈の全長ぶん、スライディングウィンドウの21層は窓の2048トークンぶんだけ保持する、という前提で計算したのが次の表である(推定値。公式にKVキャッシュのサイズ記載はない)。
| コンテキスト長 | 全注意7層 | ウィンドウ21層(窓2048) | KV合計(BF16) |
|---|---|---|---|
| 4,096 | 約0.12GB | 約0.18GB | 約0.29GB |
| 8,192 | 約0.23GB | 約0.18GB | 約0.41GB |
| 32,768 | 約0.94GB | 約0.18GB | 約1.12GB |
全注意層の計算は 7層 × 4,096バイト × トークン数で、32,768トークンなら約0.94GBである。ウィンドウ層は 21層 × 4,096バイト × 2,048トークンで約0.18GB。合計約1.12GBとなる。ただし、ランタイムによってはウィンドウ層も全長ぶん確保する実装がある。その場合は28層すべてが全注意とみなされ、32Kで約3.8GB、8Kで約0.9GBに増える。実際の値は使うランタイムで確認してほしい。同じ2B級でも、全層が通常の注意だと32Kで数GBになるモデルは珍しくないため、長い文書をローカルで処理する用途ではこの設計が効く。モデルカードも、長い文書(最大32Kトークン)をデバイス上で処理することを想定用途に挙げている。
動かす環境別のポイント
NVIDIA GPU。 BF16のままtransformersで動かすなら、重み約4.6GBに32KのKV約1.1GBと作業領域を足して、8GB VRAMのGPUが扱いやすい。8bit・4bitの量子化版を使えば、4GB VRAMでも入る計算になる。モデルカードにはvLLMとSGLangでの配信手順(どちらもOpenAI互換API)も載っている。Apple Silicon(Mac)。 統合メモリが8GBでも、4bit版なら重み1.1GBに文脈ぶんを足しても余裕がある。MLXの4bit・8bit版は第三者が公開している。CPUのみ。 GGUFの4bit版をllama.cppで動かせばGPUなしでも動く計算だが、tokens/秒などの速度は公式に記載がなく、機種依存になる。
Edgeに内蔵される場合のハード要件。 これはモデル単体の要件とは別である。Microsoft LearnのPrompt APIドキュメントでは、OSがWindows 10/11・macOS 13.3以降・x64 LinuxでVulkan GPUドライバとEdge 159以降、ストレージはEdgeプロファイルのあるボリュームに20GB以上の空き(空きが5GBを切るとモデルは削除される)、GPUは3GB以上のVRAM、ネットワークは従量制でない接続、とされている。端末の判定は edge://on-device-internals の「Device performance class」で確認でき、Medium以上であればPrompt APIが使えるはずと説明されている。この要件がAion Instruct向けに更新されたものかどうかは、ドキュメントに明示がない。
最短の使い方(transformers)
モデルカードによれば、モデルはtransformers 5.x系でエクスポートされており、独自のモデリングコードを使うため trust_remote_code=True が必要である。以下はモデルカードの手順に沿った最小例で、実機では未検証。
pip install -U transformers accelerate torchfrom transformers import AutoTokenizer, AutoModelForCausalLM
import torch
model_id = 'microsoft/Aion-1.0-Instruct-2.3B'
tokenizer = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
model_id,
torch_dtype=torch.bfloat16,
device_map='auto',
trust_remote_code=True,
)
messages = [
{'role': 'user', 'content': '次の文章を3行で要約してください。'},
]
inputs = tokenizer.apply_chat_template(
messages, add_generation_prompt=True, return_tensors='pt', return_dict=True
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0][inputs['input_ids'].shape[-1]:], skip_special_tokens=True))チャットテンプレートは <|system|> <|user|> <|assistant|> の役割トークンを使い、各ターンを <|end|>(これがEOSトークン)で閉じる。先頭にシステムメッセージを置くと、既定のシステム前文に追記される。サーバーとして立てる場合の公式手順は次のとおり。
# vLLM(OpenAI互換API)
vllm serve microsoft/Aion-1.0-Instruct-2.3B --trust-remote-code
# Docker Model Runner
docker model run hf.co/microsoft/Aion-1.0-Instruct-2.3BvLLMの起動オプションは一般的な形式で示しており、--trust-remote-code の要否はバージョンによって変わる可能性がある。SGLang(sglang.launch_server)の手順もモデルカードにある。llama.cppやOllamaで使う場合、モデルカードは量子化モデルがllama.cpp・Ollama・LM Studio・Janに対応するとしているが、確認できた量子化版の多くは第三者のリポジトリで、具体的なコマンドは各リポジトリの説明に従うのが確実だ。Ollama公式ライブラリへの登録有無は、本稿の時点で確認できていない。
Edgeでの使い方 — Prompt APIとDecisions API
Edgeでは、ウェブページのJavaScriptから内蔵モデルを LanguageModel オブジェクトとして呼び出せる。Edge公式ブログによれば、Prompt APIはこれまでEdge CanaryとDevチャンネルの開発者プレビューだったが、今回オリジントライアル(登録制)に移り、公開サイトでも試せるようになった。モデルは、サイトや機能が最初に必要としたときにだけダウンロードされ、動かせる端末にのみ配信される。Edgeの設定でオンデバイスAIをオフにすると、モデルが削除され以後ダウンロードされない。
if (typeof LanguageModel !== 'undefined') {
const availability = await LanguageModel.availability();
if (availability !== 'unavailable') {
const session = await LanguageModel.create({
initialPrompts: [{ role: 'system', content: 'You are a helpful assistant.' }],
});
const result = await session.prompt('Summarize this page in one sentence.');
console.log(result);
session.destroy();
}
}Microsoft Learnのドキュメントによれば、responseConstraint にJSONスキーマか正規表現を渡して出力を縛れる。また、Edge 158以降はPrompt APIが生成するテキストに不可視の透かし(AI生成を示す)が入り、responseConstraint を使った応答には付かない。生成文字列を処理するコードでは、この透かしを考慮する必要がある。さらにEdge公式ブログは、Aion Instructを使う実験的な「Decisions API」(CanaryとDevのみ)も紹介している。文章に対するはい・いいえ、択一、スコアリングの質問に、テキストを生成せず1回の処理で確率と信頼度を返す設計だ。クラウドのプロバイダーに切り替えられる「ハイブリッド」構成も紹介されている。
ベンチマークとPhi-4-mini・Gemma・Qwenとの比較
Aion 1.0 Instructのモデルカードの数値(公式値)は次のとおり。ベンチマークはEleutherAIのlm-evaluation-harnessで、実装がないものは各ベンチマークの公式実装で実行され、LLM判定型の評価ではGPT-4oが判定役とされている。知識系はMMLUが55.15、MMLU-Proが33.35、MMMLU(多言語MMLU)が45.51、GPQAが28.18。数学はGSM8Kが74.91(緩い一致)、GSMPlusが49.56、MATH-500が48.00。指示追従はIFEvalが83.90、IFBenchが32.00、Multi-IFが64.70。翻訳はchrF++が43.18である。
| 項目 | Aion 1.0 Instruct | Phi-4-mini-instruct |
|---|---|---|
| パラメータ数 | 約2.29B | 3.8B(HF表示は4B) |
| コンテキスト長 | 32K | 128K |
| ライセンス | MIT | MIT |
| 対応言語 | 8言語(日本語を含む) | 23言語 |
| MMLU | 55.15 | 67.3(5-shot) |
| MMLU-Pro | 33.35 | 52.8(0-shot, CoT) |
| 多言語MMLU | 45.51(MMMLU) | 49.3(5-shot) |
| GPQA | 28.18 | 25.2(0-shot, CoT) |
| GSM8K | 74.91(緩い一致) | 88.6(8-shot, CoT) |
| 数学 | 48.00(MATH-500) | 64.0(MATH, 0-shot, CoT) |
| 公開時期 | 2026年11月 | 2025年2月 |
Phi-4-miniの値は同モデルのモデルカードの記載で、評価条件(shot数、判定方法、MATHとMATH-500の違い)が揃っていないため、数値の直接比較はできない。それでも、公式値の並びを見ると、Aionは知識・数学の項目では総じてPhi-4-miniを下回り、GPQAだけ上回る。Edge公式ブログの表現は「Phiより小さく、速く、より多くの端末で動き、一般的なウェブタスクでは同等の品質」というもので、知識・数学の総合力で上回るとは述べていない。速度やメモリでの具体的な優位を示す数値は、公式に記載がない。要するに、Aionは「最高の精度」ではなく、「より多くの端末で、要約・書き換え・構造化出力などの日常的なタスクをこなす」ことを狙ったモデルと読むのが妥当だ。
GemmaやQwenの小型モデルとの比較については、本稿では公式の同条件ベンチマークを確認できていないため、数値の優劣は書かない。同サイズ帯のモデルのメモリ要件はGemma 4 の必要スペック解説、エッジ向けのGemma 4 E4B 完全ガイド、MiniCPM5-2B の必要スペック、LFM3の必要スペックにまとめている。
日本語での利用
対応言語に日本語が含まれる。ただし、モデルカードは「出力品質は言語によって異なる」と明記しており、多言語データが学習全体の約6%である点も踏まえると、日本語の精度は自社データで確認してから採用したい。日本語に限った公式ベンチマークは確認できなかった。語彙が200,029と大きいため、日本語のトークン効率は良い可能性があるが、これも公式の記載はなく、手元の文章でトークン数を測って確かめるのが確実だ。
商用利用とライセンスの注意
ライセンスはMITで、商用利用・改変・再配布が認められる。LFM3のような売上による条件はない。ただし、MITライセンスは「著作権表示とライセンス文の同梱」を求める。再配布や組み込みでは、リポジトリのLICENSEファイルを同梱すること。また、モデルカードは次を想定外の用途としている。有害・暴力的・露骨・攻撃的なコンテンツの生成、フェイクニュースなどの誤解を招く内容、医療診断や法的判断のような重大な意思決定の自動化。開発者は用途ごとに精度・安全性・公平性を評価し、法令を守るよう求められている。
制約として、モデルカードは2.3Bという規模ゆえに、細部の見落とし、事実の誤り、複雑な多段階推論の弱さ、世界知識の限定、敵対的な入力への弱さがありうると認めている。Windowsではコンテンツモデレーション用モデルとの組み合わせを計画しているが、単体のオープンウェイトにはその安全層は付属しない。自社サービスに組み込む場合は、入力と出力のフィルタや人間による確認を別に用意したい。また、trust_remote_code=True は、モデルリポジトリのPythonコードを実行する設定だ。本番環境では、リビジョン(コミットハッシュ)を固定して、コードの内容を確認してから使うとよい。
メモリ不足のときの対処
- コンテキスト長を短くする。32Kを使い切る必要はなく、8Kに絞ればKVが約0.4GBまで下がる(推定)
- 量子化を下げる。BF16から8bit、4bitに切り替えると重みが半分〜4分の1になる
- KVキャッシュも8bit化できるランタイムなら、KVの量を半分にできる
- device_map='auto' でCPUオフロードを使う。ただし速度は大きく落ちる
- ウィンドウ層まで全長で確保するランタイムでは、KVが約3倍になる。ランタイムを変えるか、コンテキストを短くする
- transformersのバージョンを確認する。モデルは5.x系でエクスポートされている
小型モデルをどう使い分けるか
Aionが向くのは、端末内で完結させたい要約・書き換え・分類・簡単な構造化出力と、ブラウザ内の軽い補助機能だ。逆に、高度な推論、大量の知識を要する質問、128Kを超えるような長大な文脈は、より大きなモデルかクラウドのAPIの領域になる。ローカルとクラウドの使い分けの考え方はハイブリッドAI(クラウド+ローカルLLM)のコスト削減、SLM全般の導入の考え方はSLM(小規模言語モデル)の導入ガイド、実行環境の選び方はローカルLLM推論エンジンの比較で扱っている。
よくある質問
Aion 1.0 Instruct 2.3Bは何GBのメモリで動きますか。
重みはパラメータ2.29Bから計算してBF16で約4.6GB、8bitで約2.3GB、4bitで約1.1GBが目安(推定)。KVキャッシュは32Kトークンで約1.1GB(推定、ウィンドウ層を窓ぶんだけ保持する場合)。実運用では2〜3割の余裕を見て、4bitなら4GB RAM、BF16なら8GB VRAMが目安になる。
Aion 1.0 Instructは商用利用できますか。
MITライセンスで公開されており、商用利用・改変・再配布ができる。著作権表示とライセンス文の同梱が条件。モデルカードは、有害コンテンツの生成、誤情報の作成、医療や法的判断の自動化を想定外の用途としている。
Aion 1.0 InstructはPhi-4-miniより高性能ですか。
公式値の並びでは、MMLUやMMLU-Pro、GSM8Kなどでphi-4-miniのモデルカードの値を下回り、GPQAだけ上回る(評価条件は揃っていない)。Edge公式ブログは「Phiより小さく速く、より多くの端末で動き、一般的なウェブタスクでは同等の品質」と説明しており、総合精度での優位は主張していない。
日本語は使えますか。
対応8言語に日本語が含まれる。ただしモデルカードは言語によって品質が異なると明記しており、日本語に限った公式ベンチマークは確認できていない。自社データで検証してから採用するのが安全。
Windowsに内蔵されるのはいつですか。
モデルカードは、最適化版を2027年1月末までにWindowsのOS SLMにする計画と記載している。Edge公式ブログは「今年中にWindowsへ来る」と述べており、時期の表現が一致していない。確定日は公式に記載がない。
Ollamaやllama.cppで使えますか。
モデルカードは、量子化版がllama.cpp・Ollama・LM Studio・Janで使えるとしている。ただし確認できたGGUF・MLX版は第三者のリポジトリが中心で、公式のGGUFやOllama公式ライブラリへの登録は本稿の時点で確認できていない。
株式会社オブライト
株式会社オブライトは、ソフトウェア開発、デジタルサイネージ、Web開発、ネットワークシステム、IoT/AR/VRなどの技術サービスを提供する東京のIT企業です。
この記事に関連する無料ツール(登録不要・その場で結果)
お気軽にご相談ください
お問い合わせ