Fine-tuning（ファインチューニング）

概要

ファインチューニングは、GPT・Llama・Qwenなどの基盤モデルに対して、業種固有のデータセットや社内スタイルガイドを用いた追加学習を行い、特定タスクでの精度向上や出力の一貫性を実現する手法です。全パラメータを更新するフルファインチューニングのほか、少数のアダプタパラメータだけを学習するLoRA・QLoRAが主流となっています。

RAGとの使い分け

ファインチューニングはスタイル・形式・専門知識の習得に向いており、RAGは最新情報や検索可能な事実の参照に優れます。多くの実用システムではRAGをメインとして、必要に応じてファインチューニングを組み合わせるハイブリッド構成が取られます。