ハルシネーション対策｜AIリサーチの誤情報を防ぐ検証手順

AIに「この市場の主要企業と規模を調べて」と頼むと、社名も数字も出典表記も整った回答が返ってきます。読みやすいからこそ危ないのです。引用元を開くと、該当する数字がない、対象年度が違う、そもそもページが存在しない、ということが起こります。それでも企画書に貼られてしまえば、その誤りは「AIの出力」ではなく「社内で確認済みの情報」として流通しはじめます。

ハルシネーション対策とは、AIの回答を正解として受け取らず、主張を検証できる単位に分け、根拠となる原典と照合して採否を決める作業です。プロンプトで「嘘をつかないで」と念押しすることではありません。AIが作った文章を、確認済み事実、推定、未確認に分解し、確認済み事実だけを原典と結び付けます。ここが実務の中心になります。

調査前の問いの固定から公開前レビューまでを6段階に分け、もっともらしい誤情報が会議資料へ入り込む経路を追えるようにします。

ハルシネーション対策で防ぐべき5種類の誤り

管理すべき対象は、出典で確認できない記述だけではありません。実在する情報の年度、対象、定義、因果関係を取り違えた回答まで含めます。URLが実在するかどうかを確かめただけでは、調査資料の誤りは防げません。

米国国立標準技術研究所（NIST）の「生成AIプロファイル」（2024年）は、生成AIが誤った内容を自信ありげに示すリスクを「confabulation」として扱い、出典や引用の確認を含む対策を挙げています。AIの文章が自然であることと、主張が原典に支えられていることは、別の話です。

実務で厄介なのは、完全な作り話ではありません。事実の一部だけがずれた回答です。企業名と調査名は正しいのに、数値だけが別の年度。記事は実在するのに、本文が主張を支えていません。この手の回答は、読んだだけでは見抜けません。

確認作業では、誤りを5種類に分けます。

市場規模の数値が資料内に見つかっても、それが国内だけの値なのか海外を含むのか、実績なのか予測なのかで意味は変わります。数字が一致した時点で手を止めず、定義まで合わせてください。

AIリサーチを始める前に検証条件を決める

対策は、回答が出てからの校正ではありません。調査前に、意思決定、確認対象、採用可能な情報源、調査期限、未確認時の扱いを決めるところから始まります。問いが広いままだと、検証すべき主張が際限なく増えていきます。

NIST「AI RMF 1.0」（2023年）も、AIリスク管理をGOVERN、MAP、MEASURE、MANAGEの機能に分け、利用状況とリスクを把握したうえで測定・管理する枠組みを示しています。

「業界について調べる」ではなく、「参入候補市場を顧客インタビューへ進めるか判断する」と書きます。調査後に変わる判断が見えていれば、必要な事実を選べます。

調査依頼には、最低限これだけ含めてください。

1. 今回の意思決定：誰が、何を決めるための調査か
2. 対象範囲：地域、期間、顧客、製品、業界の定義
3. 確認したい主張：市場、競合、顧客行動、制度などの検証単位
4. 採用する情報源：官公庁、企業の公式開示、原論文、顧客発話など
5. 除外する情報源：出典不明の要約、転載のみのページ、発行主体が確認できない資料
6. 未確認時の扱い：空欄、保留、次の調査へ送る、資料から削除する

「AIに必ず答えを埋めさせる」という条件は置きません。空欄は失敗ではありません。未確認を未確認のまま残せた、という成果です。

調査表は事実・解釈・未確認を分ける

AIへ渡す前に成果物の列を決めます。主張、原文、対象条件、判定、解釈を同じ欄に書かないことです。

「市場は成長しており、顧客ニーズも高い」。これは市場の推移と顧客需要という、まったく別の二つの主張です。

根拠を追跡できる出力形式とプロンプト

プロンプトで正答を約束させようとしても意味がありません。主張ごとに、根拠となる資料、原文、対象条件、未確認事項を出させる指示にします。AIの自信度より、人が原典へ戻れるかどうかが先です。

「出典を付けて」だけでは足りません。リンクと文章の対応が分からず、確認のたびに資料を最初から読み直すことになります。主張を一文ずつ分け、出典候補のどの箇所が何を支えているのかまで出力させます。

調査結果を証拠付きで出すプロンプト例

目的：
［この調査後に決めること］

対象範囲：
［地域、期間、顧客、製品、用語の定義］

使用可能な資料：
［資料の識別情報、発行主体、資料名、取得日、本文］

次の列で出力してください。
主張番号／主張／根拠となる資料／根拠原文／対象条件／
事実・推定・未確認の区分／反証または例外／追加確認事項

必須ルール：
- 一つの主張番号には一つの検証可能な主張だけを書く
- 根拠原文は資料から抜き出し、書き換えない
- 数字は年度、対象、地域、単位と分けて記録する
- 資料にない因果関係、評価、将来予測を補わない
- 根拠を特定できない主張は「未確認」とする
- 使用可能な資料の外にある情報を混ぜない

利用できる資料が手元にあるなら、まず資料内だけで回答させ、足りない分は「追加で探す項目」へ分けます。AIによる自己点検は矛盾候補の抽出に使えますが、最終判定には使いません。人が原典を開き、最初の要約を前提に置かずに、もう一度判定します。

AIの回答を原典と照合する6段階

検証は、主張の分割、出典の実在確認、該当箇所の照合、条件の一致確認、反証探索、採否記録の6段階で行います。どこで誤りを見つけたかを残しておけば、後工程で同じ確認を繰り返さずに済みます。

1. 一文を一つの主張へ分ける

「市場が拡大し、競合が増え、顧客の導入意向も高い」は三つに分けます。検証単位が大きいと、一部だけ正しい文が、全体として採用されてしまいます。

2. 出典の実在と発行主体を確認する

資料名、発行主体、公開ページ、公開日を確認し、元の資料まで到達します。原典へ到達できないなら、その時点で保留です。

3. 主張を支える原文を特定する

関連語が出てくるだけでは採用しません。主張を直接支える文章、表、注記を特定し、AIの要約で主語や比較対象が入れ替わっていないかを見ます。

4. 年度・対象・定義・単位を合わせる

実績と予測、企業売上と市場規模、回答者数と回答件数、国内と世界。どれも混ぜてはいけません。割合が出てきたら、分母と集計方法まで確認します。

5. 反証と但し書きを探す

仮説に合う一文だけを抜かないでください。前後の段落、脚注、除外条件を読みます。資料同士の数値が食い違っても平均を取らず、定義の差を記録します。

6. 採用・修正・保留・削除を記録する

原文と条件が一致すれば採用、条件が違えば修正。根拠へ到達できなければ保留、誤りが明確なら削除です。判定者と確認日も残します。

検証ログの記入例｜年度の違いを4段階目で検出した場合

次は、この記録表の使い方を示す架空の記入例です。

出典が実在したから採用、ではありません。年度の不一致を見つけた時点で判定を変えます。この粒度で記録しておけば、誰が見直しても「どの段階で、何を理由に、どう直したか」をたどれます。

インタビュー記録のような一次情報をAIで分析する場合も、発話IDから原文へ戻るという考え方は変わりません。アンケートの自由回答なら、回答ID、コード、代表原文、除外理由を分けて残します。

ハルシネーションを見抜くチェックリスト

確認作業で見るのは文章の自然さではありません。主張、出典、原文、条件、反証、判定履歴が一対一で対応しているかどうかです。一項目でも追跡できなければ、確認済み情報としては扱いません。

公開前、または会議へ提出する前に、次を確認します。

• 出典ページ、資料、発行主体が実在する
• 出典内の該当箇所が主張を直接支えている
• 引用文を変更していない。要約は引用符を使わず「趣旨」と区別した
• 数字の年度、対象、地域、単位、分母、集計方法が一致する
• 実績値と予測値を取り違えていない
• AIの推定を顧客発話、調査結果、企業発表として扱っていない
• 但し書き、否定、例外、除外条件を落としていない
• 仮説に不都合な反証や未確認事項を残している
• 採用、修正、保留、削除の判定者と日付が記録されている

強い主張ほど深く見ます。市場規模、法制度、競合の実績、顧客の購入意向、投資判断を左右する引用は、原典と条件を必ず確認してください。

赤信号になりやすい書き方

「多くの企業が導入している」「専門家は指摘している」。主語のない記述は採用しません。数値だけが妙に細かいのに、調査名も対象も書かれていない回答も要注意です。もっともらしさは、検証済みの印ではありません。

新規事業の資料へ反映する判定ルール

資料には、確認済み事実だけでなく、仮説も未確認事項も載せて構いません。条件は一つ。三者を同じ見た目と文体で混ぜないことです。意思決定者が証拠の強さを判別できる表示にします。不確実性を隠すより、次に何を確認すべきかを示すほうが役に立ちます。

判定は四つに固定すると扱いやすくなります。

事実と解釈も分けます。確認済み資料が示すのは「特定条件での回答結果」までです。「この市場へ参入すべき」は、事業側の解釈にすぎません。

証拠の強さを用途に合わせる

企業の機能や価格は提供元の公式情報へ。制度は所管官庁や法令へ。学術的な主張は原論文へ。顧客の業務や選択は、本人の発話と観察記録へ戻ります。一次情報も万能ではありません。企業発表が示すのは、その企業が何を公表したかまでであって、市場全体の評価とは別です。

チームで対策を継続する運用方法

検証担当者の注意力に頼る運用は、必ずどこかで破れます。主張番号、原典、判定、修正履歴を共有し、未確認情報が確認済み欄へ移る条件を固定してください。個人の確認メモだけでは、資料を転用したときに証拠が切れます。

AI出力を直接企画書へ貼らないでください。証拠表を一度通します。企画書には主張番号を残し、数字や引用を直したら証拠表も更新します。

調査者と検証者は分けます。同じ人が兼ねるなら、時間を空けて、原典から確認し直してください。

検証ログに残す項目

資料を更新したら根拠も見直し、最終更新日を付けます。全部を一度に整えようとせず、意思決定を左右する主張から記録を始めてください。

まとめ｜AIの回答ではなく検証記録を残す

対策の完成形は、AIに誤答させない状態ではありません。誤りが混じっても原典照合で止まり、採否と修正履歴を後から追える状態です。残す成果物は、AIの文章ではなく、主張と証拠の対応です。

調査前に意思決定と対象範囲を固定し、出力を主張単位へ分けます。AIには根拠、原文、条件、未確認事項を出させます。人は出典の実在、該当箇所、年度、対象、定義、反証を確認し、採用、修正、保留、削除を記録します。

プロンプトだけでハルシネーションをゼロにしようとすると、確認工程そのものが見えなくなります。AIへの指示は証拠を出しやすくするために使い、最終判定は原典へ戻します。市場調査でも、顧客インタビューでも、アンケート分析でも、この原則は変わりません。