業務のAI化で人とAIの役割分担を決める：確認・例外・記録の設計

業務のAI化で、人とAIの役割分担を決めるときは、「AIにできるか」ではなく「間違えたときに誰が、どこで気づけるか」から考えると決めやすくなります。AIに任せるのは、手順が定型的で、出力を確認しやすく、誤りの影響が小さい作業。人が担うのは、判断の責任を伴う場面、例外、相手との関係に関わる場面です。そのうえで、確認の地点、例外の扱い、記録の残し方の3つを、先に設計します。

この記事では、作業の分け方、確認地点の置き方、例外処理の設計、記録の残し方を、順を追って説明します。AIエージェントのような複数手順を任せる仕組みについてはAIエージェントを業務に組み込む設計：人とAIの役割分担、業務の洗い出しは業務の棚卸しとAI適用候補の見つけ方も参照してください。

役割分担とは：業務を「作る・判断する・責任を持つ」に分ける

役割分担は、業務を作業単位に分けたうえで、それぞれを誰が担うかを決めることです。見るべき軸は次の3つです。

• 作る：文章の下書き、要約、分類、情報の検索や整理など
• 判断する：複数の選択肢から決める、例外かどうかを見分ける
• 責任を持つ：最終的な結果に対して説明し、対応する

多くの場合、「作る」はAIが先に行い、「判断する」と「責任を持つ」は人が担います。ただし、すべての判断が人でなければならないわけではなく、基準が明確で影響の小さい判断は、AIの処理後に抜き取りで確認する設計もあります。分け方は、業務の性質とリスクで変わります。

進め方

1. 現在の手順と判断の基準を書き出す

まず、いまの業務を作業単位で書き出し、各作業で何を見て、どう判断しているかを聞き取ります。判断の基準が担当者の頭の中にしかない場合は、先に言葉にします。基準を書けない作業は、AIに任せても確認ができません。

2. 作業ごとに「任せる／支援を受ける／人が行う」に分ける

区分は固定ではありません。運用で誤りの傾向が分かれば、見直します。

3. 確認の地点を置く

人が確認する地点は、「どこに置くか」と「何を見るか」を決めます。

• 外に出る前：顧客や取引先に送る前、公開する前、システムに登録する前
• 取り返しがつきにくい操作の前：支払い、契約、個人情報を含む処理の前
• 根拠が必要な箇所：数値や引用が含まれる出力の、出典との照合

確認を全部の出力に置くと、現場の負担が増え、形だけの確認になりがちです。重要度に応じて、全件確認、一部の抜き取り確認、例外のみ確認を使い分けます。確認する人には、見るべき観点（数値、固有名詞、約束の内容など）を一覧にして渡します。

この設計を、現場の聞き取りから運用ルールまでまとめて進める支援として、zigyo.aiの業務のAI組み替え設計があります。人とAIの役割分担、確認の地点、記録の残し方を決め、AI前提の業務フローと運用ルールを設計する内容です。

4. 例外の扱いを決める

AIは、想定外の入力に対して、もっともらしい誤りを返すことがあります。例外は「起きたらその場で考える」のではなく、先に型を決めておきます。

• 例外の見分け方：AIの出力に確信度が低いと出る、必要な情報が欠けている、金額や条件が基準を超える、など
• 例外の行き先：誰に回すか、誰が承認するか、いつまでに対応するか
• 例外の記録：なぜ例外になったかを残し、次の改善に生かす

最初のうちは、例外が多く出るのが普通です。例外の理由を集めると、AIへの指示や手順を直す手がかりになります。

5. 記録の残し方を決める

人とAIが共同で行う業務では、後から「誰が、何を根拠に決めたか」を説明できる状態が必要です。残す項目の例を示します。

• AIに入力した内容と、得られた出力
• 人が確認した日時、確認者、修正した内容
• 例外として扱った理由と承認者
• 使ったAIの種類や設定（変更したとき分かるように）

入力内容に個人情報や秘密情報が含まれる場合は、記録の保管場所と閲覧できる人も決めます。社内のルールは社内AI利用ルールの作り方：入力情報・出力の扱い・責任にまとめています。

6. 小さく試し、分担を見直す

設計した分担は、限られた範囲で実際に運用して確かめます。確認に時間がかかりすぎていないか、見落としが起きていないか、例外の型は足りているかを見て、調整します。試し方は既存業務でのAI PoCの設計：成功基準と進め方が参考になります。

失敗しやすい点

• AIの得意・不得意だけで決める：誤りが出たときの影響と、確認のしやすさを見ないと、運用で事故が起きます。
• 確認が形だけになる：全件を同じ重さで確認させると、見落としが増えます。重要度で濃淡をつけます。
• 責任者が曖昧：AIが出した結果の責任を誰が負うかを決めないと、問題が起きたとき止まります。
• 例外の行き先がない：例外が出ても回す先がなく、担当者が抱え込みます。
• 現場に説明しない：役割が変わる理由を伝えないと、不安や反発が生まれます。

よくある質問

どの作業からAIに任せるのが安全ですか。

誤りの影響が小さく、出力を目で確認しやすい作業からが一般的です。社内向けの文書の整形や要約、分類などが候補になります。顧客に直接影響する作業は、人の確認を置いたうえで、段階的に範囲を広げます。

人の確認を省いてよいのはどんな場合ですか。

判断の基準が明確で、誤りの影響が小さく、後から訂正できる場合です。それでも、抜き取りの確認や、誤りが出たときに気づく仕組みは残してください。省く場合は、その判断と理由を記録しておきます。

現場の担当者が反対したらどうしますか。

反対の理由には、実務上の懸念が含まれていることが多いです。聞き取りで、AIが出す誤りへの不安なのか、仕事が変わることへの不安なのかを確かめ、設計に反映します。現場の関与の方法はAI転換で人を置き去りにしない：リスキリングと現場定着でも扱っています。

まとめ

人とAIの役割分担は、作業を「作る・判断する・責任を持つ」に分け、確認の地点、例外の型、記録の項目を先に決めて設計します。そのうえで小さく試し、運用の結果を見て分担を見直します。

特定の業務をAI前提に組み替えたい場合は、業務のAI組み替え設計をご覧ください。対象業務の状況をお聞きしたうえで進め方を相談することができます。