AIの出力で人が確認すべき部分はどこか:影響の大きさで決める確認の目安

なぜ「全部確認」でも「全部お任せ」でもだめなのか

AnthropicのClaude向け開発者ドキュメントは、高度な言語モデルでも事実と異なる内容や、与えた文脈と食い違う内容を出すことがあると説明しています。さらに、幻覚を減らす手法を紹介し、出力の各主張を引用で検証し、裏付けが見つからない主張は撤回させる方法を挙げています(Reduce hallucinations|Claude Docs)。

つまり、確認ゼロは成り立ちません。一方で、AIを使う目的は手間を減らすことなので、全文を一次資料と突き合わせていては意味が薄れます。そこで「どこに時間をかけるか」を先に決めます。

なお、組織でAIを使うなら、AIに伴うリスクを管理する枠組みも参考になります。米国NISTのAI RMFは任意利用の枠組みで、2024年7月には生成AI向けのプロファイル(NIST AI 600-1)も公開されました(NIST AI Risk Management Framework)。ここで紹介するマトリクスは、その発想を個人や小さなチームの日常作業に落とした簡易版です。

確認の深さを決める判断マトリクス

縦軸が間違いの影響、横軸が見つけやすさです。確認の方法は、各マスに書いた内容を基準にします。

• 小(自分だけの下書き、アイデア出し)、すぐ分かる(読めば違和感が出る)：目視のみ、調べれば分かる(数字・名称・日付など)：気になる箇所だけ検索、気づきにくい(もっともらしい説明・出典・省略)：通読し、断定的な表現をやわらげる
• 中(社内共有、取引先への連絡)、すぐ分かる(読めば違和感が出る)：通読して宛先・名称を見る、調べれば分かる(数字・名称・日付など)：数字・固有名詞・日付を原典と1件ずつ照合、気づきにくい(もっともらしい説明・出典・省略)：根拠の引用を出させ、引用元の原文を自分で開いて確認
• 大(金銭、契約、公開、他人の権利や安全に関わる)、すぐ分かる(読めば違和感が出る)：全文を確認し、責任者が承認、調べれば分かる(数字・名称・日付など)：全項目を一次資料と照合し、記録を残す、気づきにくい(もっともらしい説明・出典・省略)：AI出力は下書き扱いにし、結論に使う前に担当者や専門家が確認

影響の判断に迷ったとき

次のうち1つでも当てはまれば、影響は「中」以上にします。

• 自分以外の人に渡る(送信、公開、提出)
• 取り消しにくい(送金、契約、公開後の訂正)
• 数字や日付が意思決定に使われる
• 他人の個人情報や権利に関わる

見つけやすさの判断に迷ったとき

AIの出力で見落としやすいのは、次のような箇所です。

• 数字、日付、金額、版数
• 人名、製品名、法令名、条文番号
• 出典や引用(実在するように見えても、内容が合っているとは限りません)
• 「〜は対象外」など、書かれていないことによる省略
• 最新情報のように、AIが参照できる範囲に左右される内容

これらは文章として自然なので「気づきにくい」側に寄せます。

確認を楽にする依頼文

先ほどのドキュメントは、確認しやすくする手段として、分からないときは分からないと言わせる、長い資料では先に原文の抜き出しをさせる、各主張に裏付けの引用を付けさせ、見つからなければ撤回させる、といった方法を挙げています。これを日常の依頼に応用した依頼文の例です(編集部が作った例で、実行結果は検証していません)。

以下の資料だけを根拠に、取引先向けのお知らせ文を書いてください。

【資料】
(ここに資料を貼る)

条件:
1. 資料に書かれていないことは書かず、不明な点は「資料からは不明」と書く。
2. 書いた文のうち、数字・日付・固有名詞を含む文には、根拠になる資料の一文を原文のまま添える。
3. 根拠を見つけられない文は削除し、削除した箇所を [削除] と示す。
4. 最後に、人が確認すべき項目を「数字」「固有名詞」「資料に無い前提」に分けて列挙する。

注意点は2つあります。

• 4番の「確認項目の列挙」は確認の入口です。AIが「問題なし」と答えても、確認を済ませたことにはなりません。
• 根拠の引用が付いていても、資料そのものが古い、あるいは誤っている場合は防げません。資料の日付と発行元は人が見ます。

確認記録のメモ例

影響が「中」以上なら、何をどこまで確認したかを短く残しておくと、後で訂正や引き継ぎが必要になったときに役立ちます。以下は「説明用の例」で、実在の案件ではありません。

【AI出力 確認記録】
日付:2026-10-27
用途:取引先A社(架空)向け 料金改定のお知らせ文
使ったAI:(サービス名・モデル名を画面表示のとおり記入)
渡した資料:社内の料金表(2026-10-01版)※個人情報なし
影響度:中(社外に送る)
見つけやすさ:調べれば分かる(金額・適用日)
確認レベル:数字・日付を原典と1件ずつ照合

確認した項目:
- 金額3件 → 料金表と一致
- 適用日 → 料金表と相違あり。AIは「11月1日」、資料は「12月1日」。修正
- 「全プランが対象」の記述 → 資料に根拠なし。削除

未確認で残したこと:
- 旧料金の経過措置の有無(担当者に確認中)

最終判断者:◯◯(送信前に承認)

ポイントは、「直したこと」だけでなく「根拠がなく削ったこと」と「未確認で残したこと」も書くことです。この例のように、AIの出力に日付の食い違いが出るのはよくある型ですが、上の記録内容そのものは説明用に作った仮の場面です。

運用の目安

• 使い始めの用途は一段深く確認する。 そのAIがその作業でどんな間違いをするか、まだ分からないためです。同じ種類の作業で記録が溜まり、間違いの傾向が見えてきたら、見つけやすい項目は確認を軽くできます。
• 影響が「大」の欄は、確認を軽くしない。 慣れても下げません。
• 機密情報は貼らない。 確認記録にも、個人名や契約内容は入れず、案件番号などに置き換えます。AIの学習設定と秘密保持は別の話なので、設定を切っているから貼ってよいとは考えず、利用先の規約と社内ルールで判断してください。

まず次の作業から、マトリクスの1マスを選んで試してみてください。AIが書いた文のうち、数字・日付・固有名詞の行にだけ印をつけ、原典と照らす。これだけでも、確認の時間は「どこを見るか」に集中します。