評価データセット（AI評価）

生成AIの出力は、感覚で「良さそう」と判断しがちです。評価データセットは、実際の業務で想定される質問や入力を集め、それぞれに期待する答えや採点基準を添えたものです。プロンプトの変更、モデルの入れ替え、データの更新のたびに、このセットで結果を比較し、品質が下がっていないかを確認します。

作り方は、現場の実例から代表的なケースと、間違えやすいケース、禁止事項に触れるケースを選ぶことです。採点は人が行う方法のほか、AIに採点させるLLM-as-a-Judgeもありますが、人の判断との一致を確認しながら使います。

注意点は、評価セットの個人情報や機密情報の扱いです。また、セットが古くなると実態と合わなくなるため、運用で見つかった失敗例を追加し続けてください。