モデルの更新・提供終了への備え
外部のAIサービスのモデルは、新しいバージョンへの更新や、古いバージョンの提供終了が行われます。更新により出力の傾向が変わり、同じプロンプトで結果が変わることがあります。提供終了の期日までに移行できなければ、業務や商品が停止します。
備えとしては、利用中のモデルとバージョンを台帳で把握する、可能ならバージョンを固定して使う、提供事業者の告知を確認する担当者を置く、更新の都度評価データセットで品質を確認する、別のモデルに切り替えられる設計(マルチモデル戦略)にする、といったことがあります。契約では、サービスの変更・終了の通知期間も確認します。
注意点は、移行の作業量を見込んでおくことです。モデルごとにプロンプトの最適な書き方が違うため、単純な差し替えでは済まないことがあります。
「モデルの更新・提供終了への備え」が出てくる記事
この用語が出てくる記事はまだありません。
