AIの出力ミスを業務で防ぐ — 確認フローの作り方と、見落としやすい誤り

生成AIは、事実と異なる内容を、正しいときと同じ自然な文章で出力することがあります。ハルシネーションと呼ばれる現象です。業務でAIを使うなら、誤りをゼロにすることより、誤りが外に出る前に止める仕組みを作ることが現実的な目標になります。ここでは、確認フローの作り方と、実務で見落としやすい誤りの種類を整理します。

なぜAIは「もっともらしい誤り」を出すのか

文章を生成するAIは、大量の文章から学んだパターンをもとに、続きとして自然な言葉を組み立てています。事実を記憶から取り出して答えているわけではないため、知らないことや曖昧なことでも、それらしい文章を作ってしまうことがあります。

やっかいなのは、誤りの部分だけ文章の質が下がるわけではないことです。全体が丁寧で論理的に見えるほど、読み手は細部の確認を省きがちになります。誤りを見つけるには、文章の印象ではなく、確認すべき箇所を決めておく必要があります。

見落としやすい誤りの種類

運営者が日々の記事制作で生成AIを使うなかで、特に見落としやすいと感じているのは次の5種類です。

• 数値：統計の値、割合、金額、日付。もっともらしい値が出てくるため、出典にあたらないと気づけません。
• 固有名詞：人名、社名、製品名、法令名、制度名。似た名前の別のものと混同されることがあります。
• リンク・出典：存在しないURLや、実在するが内容が違うページを示すことがあります。
• 時点：制度改正や料金改定の前の情報を、現在の情報として書くことがあります。
• 社内の事情：自社の規程や取引条件など、AIが知りえない情報を一般論で埋めてしまうことがあります。

確認フローの作り方

1. 業務を「誤りが外に出るか」で分ける

最初に、AIを使う業務を、誤りが社外に出る業務（顧客への回答、公開文書、契約書など）と、社内で完結する業務（議事録の要約、社内向け下書きなど）に分けます。確認の厳しさは前者に集中させます。すべてを同じ厳しさで確認しようとすると、確認が形だけになりがちです。

2. 確認する箇所をチェックリストにする

「内容をよく確認する」では、確認になりません。上に挙げた5種類のうち、その業務で起こりうるものをチェック項目にし、数値は出典と照合したか、リンクは実際に開いたかのように、行動で答えられる形にします。

3. 作った人と確認する人を分ける

AIに指示を出した人は、自分が期待した答えを読み取りやすくなります。社外に出る文書は、可能であれば別の人が確認する体制にします。人数が限られる場合は、時間を空けて読み直すだけでも見落としは減ります。

4. AIに根拠を示させる

指示の段階で「根拠となる資料名を示す」「分からない場合は分からないと答える」と求めておくと、確認がしやすくなります。ただし、示された根拠自体が誤っていることもあるため、最後は元の資料を開いて確認します。

確認の負担が重すぎる業務は、対象から外す

確認フローを作ってみると、確認に元の作業と同じくらい時間がかかる業務が見つかることがあります。その業務は、少なくとも現時点ではAI化の優先度を下げるのが妥当です。AIの効果は「作る時間の短縮」から「確認の時間」を引いたものだと考えると、対象業務の選び方がはっきりします。

経済産業省・総務省の「AI事業者ガイドライン」でも、AIを利用する側が出力の正確性に注意を払い、適切に人が関与することの重要性が示されています。確認フローは、こうした考え方を自社の業務に落とし込んだものと位置づけられます。

対象業務の選び方はAI導入ロードマップ、社内文書を参照させる仕組みは社内文書を検索できるAI（RAG）とはで解説しています。

業務別・確認フローの例

顧客への問い合わせ回答

AIが回答案を作り、担当者が確認して送信します。確認項目は、料金・納期・契約条件などの数値と条件が正しいか、自社が提供していないサービスを案内していないか、の2点を中心にします。回答の根拠となる社内資料を、回答案と並べて表示できる仕組みにすると確認が早くなります。

社外向けの資料・記事

AIに下書きを作らせた場合、数値・固有名詞・出典リンクをすべて確認対象にします。運営者が記事制作で行っているのは、数値は元の調査資料を開いて照合する、リンクは1件ずつ実際に開く、という地道な確認です。手間はかかりますが、公開後に誤りを訂正する手間に比べれば小さく済みます。

社内向けの要約・議事録

誤りが社外に出ない業務では、確認を軽くして構いません。ただし、要約で決定事項や数値が変わっていないかだけは確認します。「決まったこと」と「担当者・期限」の3点に絞って元の記録と照合するだけでも、重大な誤りの多くは防げます。

よくある質問

Q. 確認の手間がかかるなら、AIを使う意味はないのでは？

確認の手間を差し引いても効果が出るかどうかは、業務によって異なります。下書きを一から書く時間に比べて、確認の時間が十分に短い業務なら効果が出ます。確認に元の作業と同じくらい時間がかかる業務は、AI化の優先度を下げるのが妥当です。

Q. 社内文書を読ませるAI（RAG）なら、誤りは起きませんか？

社内文書を参照させることで誤りは減らせますが、なくなるわけではありません。参照した文書自体が古い、該当する文書がない質問にも答えてしまう、といった誤りが起こりえます。回答に参照元を表示させ、利用者が元の文書を確認できるようにしておくことが有効です。

Q. 誤りが外部に出てしまった場合、どう対応すればよいですか？

通常の誤記と同じく、速やかな訂正と、影響を受けた相手への連絡が基本です。そのうえで、どの確認工程を通り抜けたのかを振り返り、チェック項目を追加します。誤りの事例を社内で共有しておくと、同じ種類の見落としを防ぎやすくなります。