大規模言語モデル（LLM）の最適化は、非常に難しい課題です。多くの開発者と協力してきた経験から、その理由は一貫して以下のような点に集約されます：
- 精度を最適化する方法の把握
- どの最適化方法をいつ使用すべきかの判断
- どの程度の精度がプロダクションレベルとして十分であるかの見極め
この記事では、LLMの精度と挙動を最適化するためのメンタルモデルを提供します。プロンプトエンジニアリング、リトリーバル・オーグメンテッド・ジェネレーション（RAG）、ファインチューニングなどの方法を探り、それぞれの技術をどのように、そしていつ使用すべきかを解説します。また、一般的な落とし穴も紹介します。
LLM最適化のコンテキスト
多くの「最適化方法」ガイドは、最適化を単純な線形フローとして描いています。まずプロンプトエンジニアリングから始め、それからRAG、次にファインチューニングに進むというものです。しかし、実際にはそれぞれが異なる課題を解決するためのレバーであり、正しい方向に最適化するためには適切なレバーを引く必要があります。
典型的なLLMタスクのフロー
- プロンプトエンジニアリングから始める: テスト、学習、評価を通じてベースラインを設定します。
- 静的な数ショット例を追加: 結果の一貫性を向上させます。
- 動的なリトリーバルステップを追加: 質問に基づいて関連するコンテキストを動的に取得し、性能を向上させます。
- 50以上の例からなるデータセットを準備し、モデルをファインチューニング: 一貫性を向上させます。
- リトリーバルとファクトチェックステップを調整し、誤った情報を削除: 高い精度を達成します。
プロンプトエンジニアリング
プロンプトエンジニアリングは通常、最初に取り組むべき方法です。要約、翻訳、コード生成などのケースでは、ゼロショットアプローチでプロダクションレベルの精度と一貫性を達成できることがよくあります。
この方法は、特定のユースケースにおける精度を定義することを強制します。シンプルなプロンプトから始め、期待される出力を念頭に置いてプロンプトを最適化します。
最適化の方法
以下の戦略を活用してプロンプトを最適化します：
- 明確な指示を記述する
- 複雑なタスクを簡単なサブタスクに分割する
- GPTに「考える時間」を与える
- 変更を体系的にテストする
- 参照テキストを提供する
- 外部ツールを使用する
リトリーバル・オーグメンテッド・ジェネレーション（RAG）
RAGは、LLMのプロンプトを生成する前にコンテンツをリトリーブして追加するプロセスです。ドメイン固有のコンテキストにアクセスするために使用され、LLMの精度と一貫性を向上させる非常に貴重なツールです。
RAGアプリケーションには、新しい軸であるリトリーバルが必要です。これにより、モデルに適切なコンテキストを提供し、モデルが正しい答えを生成するかどうかを評価します。
ファインチューニング
ファインチューニングは、学習メモリ問題を解決するために、多くの開発者がLLMのトレーニングプロセスを続けるプロセスです。これにより、特定のタスクに対するモデルの精度を向上させることができます。
ファインチューニングの理由
- 特定のタスクでのモデル精度を向上させるため
- モデルの効率を向上させるため
ファインチューニングのプロセスは、トレーニング例のデータセットを準備することから始まります。これが最も重要なステップであり、トレーニング例は実際の使用状況を正確に反映している必要があります。
まとめ
LLMの最適化は、プロンプトエンジニアリング、RAG、ファインチューニングの各技術を組み合わせて行います。これらの方法は、モデルのコンテキストや一貫性の問題に対処するためにスタックされることが多く、それぞれの弱点を補完します。ビジネスおよび技術の両方の観点から精度の目標を設定し、適切な手法を用いて最適化を行うことが重要です。
参照：
https://platform.openai.com/docs/guides/optimizing-llm-accuracy/understanding-the-tools
