Hallucination（幻覚）

概要

ハルシネーションは、LLMが訓練データから統計的に'もっともらしい'次のトークンを予測する際に、事実に反する内容を生成してしまう現象です。特に稀少な事実・最新情報・数値・固有名詞で発生しやすく、LLM自身は誤りを自覚せず断言的に出力するため見抜きにくいという問題があります。

対策

RAGで外部知識をグラウンディングする、Chain-of-Thoughtで推論過程を検証可能にする、出力を別モデルで事実検証する（LLM-as-a-judge）などが主要な対策です。高リスクな業務（医療・法務・金融）では必ず人間のレビューを挟む運用設計が推奨されます。