この記事でわかること
- 生成AIが事実でない内容を自信たっぷりに書く理由と、その性質
- 社内で実際に事故につながりやすい5つの業務シーン
- 全部を確認しなくて済むように、リスクを2軸で切り分ける方法
- 3段階に分けた検証フローと、どこまでやれば十分かの線引き
- 確認の手間そのものを減らす使い方と、社内ルールへの落とし方
ハルシネーションは「嘘をつく」のではなく「もっともらしく埋める」
生成AIが、実在しない条文や存在しない統計、書かれていない仕様をすらすらと答えることがあります。これがハルシネーションと呼ばれる現象です。厄介なのは、間違っているときほど文章が整っていて、断定的に書かれることです。知らないなら「知らない」と書いてほしいのですが、そうはなりません。
理由は仕組みにあります。大規模言語モデルは、文章の続きとして自然なものを出力するように作られています。「正しいかどうか」ではなく「それらしいかどうか」で言葉が選ばれる場面がある、という性質を最初に理解しておくと、対処の方向が決まります。
ハルシネーションはバグではなく、現在の生成AIの性質です。プロンプトを工夫すれば減らせますが、ゼロにはできません。だから「起きない前提のルール」ではなく、「起きても業務に影響しない前提のルール」を組むことになります。
検索連携やRAGを使っても、ゼロにはならない
社内文書やWebを参照させる仕組み（いわゆるRAGや検索連携）を使うと、事実に基づいた回答が出やすくなります。ただしこれも万能ではありません。参照先の資料が古い、該当箇所が見つからず一般論で補われる、複数の資料をまたいで誤って組み合わせるといった形で、別のかたちの誤りが生まれます。出典リンクが付いていても、そのリンク先に本当に書かれているかは別問題です。
「もっともらしさ」が最大のリスク
人が書いた文章なら、自信のなさが文体に出ます。生成AIの出力にはそれがありません。結果として、内容を知らない人ほど疑わずに受け取ってしまいます。社内で事故が起きるのは、たいていAIの精度が低かったからではなく、確認する人がその分野の内容を判断できなかったからです。
業務で事故になりやすい5つの場面
すべての用途が危険なわけではありません。実務で問題になるのは、次の5つに集中します。
数値・年号・固有名詞を含む説明文
補助金の金額、法律の施行日、業界のシェア、他社の実績。桁や年号は、それらしい値が入りやすい典型的な箇所です。「約◯％」「2024年施行」のような表現がついていると、確認せずに通ってしまいます。
数値と年号は、出典を1つずつ確認するまで原稿に載せない自社の商品・サービス仕様の説明
AIは自社の内部情報を知りません。それでも聞けば答えます。「一般的なサービスならこうだろう」という内容が、自社の仕様として書かれてしまうのがこのパターンです。提案書やFAQを作るときに起きやすく、しかも社外に出ます。
仕様は必ず、自社の一次資料を渡したうえで書かせる法令・契約・資格に関する判断
景品表示法、下請法、個人情報保護法など、条文があるようで解釈が必要な領域です。条文番号まで具体的に書かれると、正しさの確認が余計に難しくなります。この領域は「調べる出発点」として使うのは有効ですが、判断そのものを委ねる用途には向きません。
要約・議事録での「言っていないことの追加」
要約は元の情報があるぶん安全に見えますが、文脈を整えるために存在しない決定事項や期日が足されることがあります。議事録は後から根拠として使われるため、影響が長く残ります。
議事録は「発言になかったことは書かない」と明示し、参加者が当日中に確認する表・リスト形式でまとめさせたとき
比較表を作らせると、空欄を嫌って全マスが埋まります。情報がないセルにも、それらしい内容が入ります。見た目が整っているぶん、そのまま資料に貼られやすく、発見が遅れます。
リスクの大きさを決める2つの軸
出力すべてを同じ厳しさで確認していたら、AIを使う意味がなくなります。確認の強度は、次の2軸で決めるのが実務的です。
| 取り返しがつく | 取り返しがつきにくい | |
|---|---|---|
| 社内で完結する | アイデア出し、下書き、議事録の草案 → 軽い確認で足りる |
社内規程、マニュアル、教育資料 → 事実部分だけ出典確認 |
| 社外に出る | メールの下書き、社内向け報告の体裁 → 数値と固有名詞のみ確認 |
提案書、Web記事、広告表現、契約関連 → 全文を人が確認。出典必須 |
優先すべきは右下だけ
チェック体制を作るとき、全社一律のルールにすると必ず形骸化します。「社外に出る」かつ「取り返しがつきにくい」ものだけを厳格に扱い、それ以外は軽くする。この線引きを最初に文書化しておくと、現場が迷いません。
「社外に出る」の判定は広めに取ってください。社内資料のつもりで作ったスライドが、そのまま顧客向け説明に転用されるのはよくあることです。転用される可能性のあるものは、社外扱いにしておくほうが安全です。
3段階の検証フロー
実務で回るのは、次の3段階です。段階が上がるほど手間がかかるので、リスクに応じてどこまでやるかを決めます。
段階1：AIに自己申告させる（1分）
出力の後に、「この回答のうち、事実確認が必要な箇所と、確信が低い箇所を列挙してください」と続けて聞きます。完璧ではありませんが、確認すべき箇所の当たりをつけるには十分に機能します。特に数値と固有名詞は、この段階でかなり洗い出せます。
段階2：一次情報にあたる（5〜15分）
洗い出した箇所を、出典で確認します。ここでの原則は「AIが挙げた出典を確認する」のではなく「自分で出典を探し直す」ことです。AIが示したURLやタイトル自体が実在しない、あるいは内容が違うことがあるためです。公的な制度や法令なら、必ず所管官庁や事務局の公式サイトまで確認します。
「その分野を知っている人が読めば1分で気づく誤り」がほとんどです。だから検証フローの本質は、時間をかけることではなく、内容が分かる人の目を1回通すことです。誰が確認するかを決めるほうが、確認手順を細かく決めるより効きます。
段階3：別のモデルに突き合わせる（3分）
同じ質問を別の生成AIにも投げ、答えが割れるかを見る方法です。割れた箇所は、少なくとも「確実ではない」ことが分かります。一致したから正しいとは言えませんが、優先的に確認すべき箇所を絞る用途では有効です。時間がないときは段階1と3だけでも、素通りは大幅に減ります。
どこまでやるかの目安
| 用途 | 実施する段階 | 目安時間 |
|---|---|---|
| アイデア出し・構成案 | なし（そのまま使う） | 0分 |
| 社内向け下書き・要約 | 段階1 | 1分 |
| 社外メール・報告資料 | 段階1＋2（数値と固有名詞のみ） | 5分 |
| 提案書・Web記事・広告表現 | 段階1〜3＋担当者の全文確認 | 15〜30分 |
| 法令・契約に関わる判断 | AIの出力は下調べ扱い。専門家に確認 | — |
確認の手間を減らす使い方の工夫
後工程で頑張るより、入力の段階で減らすほうが効率的です。次の4つは、どの部署でもすぐ使えます。
1. 資料を渡してから書かせる
最も効果が大きい対策です。自社のサービス資料、議事録の原文、公式サイトの該当ページを添付したうえで「この資料の範囲だけで書いてください」と指示する。知識を思い出させるのではなく、目の前の資料を整理させる使い方に切り替えるだけで、誤りは大きく減ります。
2. 「分からない場合は分からないと書く」を明示する
指示がなければ、AIは空欄を作りません。「資料に記載がない項目は『記載なし』と書き、推測で埋めないでください」と一文入れておくだけで、比較表の空欄が正しく空欄になります。
3. 出典を本文と分けて出させる
本文中に出典を混ぜると確認しづらくなります。「本文の後に、事実に関する記述と、その根拠になった資料の該当箇所を対応表で出してください」と指示すると、確認作業が機械的になります。根拠が出せない記述は、その時点で候補から外せます。
4. 一度に長文を書かせない
出力が長いほど、確認されない箇所が増えます。章ごとに分けて出させ、章ごとに確認する。手間が増えるように見えて、後戻りが減るぶん結果的に速くなります。
これらの指示は、毎回入力するのではなく社内の共通プロンプトとして保存してください。担当者ごとに指示の書き方が違うと、出力の品質もばらつきます。よく使う業務ほど、雛形として固定しておく価値があります。
誰が最終確認するかを決める
手順を整えても、責任の所在が曖昧だと機能しません。「AIが書いた」は免責になりません。出したものの責任は、出した人と会社にあります。
| 役割 | やること | 向いている担当 |
|---|---|---|
| 作成者 | 段階1の自己申告と、明らかな誤りの修正 | その業務の実務担当者 |
| 内容確認者 | 事実・数値・仕様が正しいかの判断 | その分野を実務で分かっている人 |
| 公開判断者 | 社外に出してよいかの最終判断 | 部門責任者。社外文書は必ず経由させる |
| ルールの管理 | 禁止用途の更新、共通プロンプトの整備 | AI活用の推進担当 |
内容確認者は「詳しい人」でなければ意味がない
形式だけの承認フローは、事故を防ぎません。内容が分からない人が確認しても、もっともらしい文章は通ってしまいます。確認者は役職ではなく、その分野を実務で扱っている人を指名してください。逆にいえば、社内に判断できる人がいない領域は、AIに任せてはいけない領域です。
提出・公開前チェックリスト
生成AIの出力を社外に出す前に
【事実の確認】
- 数値・割合・年号を、自分で探した一次情報で確認した
- 法令・制度の内容を、所管官庁や事務局の公式サイトで確認した
- 自社のサービス仕様・料金が、社内の一次資料と一致している
- 他社名・製品名・人物名が実在し、表記が正しい
- AIが示した出典が実在し、その内容が本当に書かれている
【表現の確認】
- 「業界No.1」「最短」など、根拠が必要な表現が入っていない
- 比較表に、根拠のないまま埋まったセルが残っていない
- 断定できないことが、断定形で書かれていない
【体制の確認】
- その分野を実務で分かっている人が、内容を確認した
- 社外文書として、公開判断者の承認を得た
- 入力した資料に、入れてはいけない情報が含まれていなかった
- 使用したプロンプトを、次回のために共有先に保存した
チェックリストは長くするほど守られなくなります。最初は「数値・固有名詞・自社仕様の3点だけは必ず確認する」から始めてください。この3点で、社外に出る事故のかなりの部分は防げます。運用が定着してから項目を足すほうが、結果的に守られます。
LnXの見解
生成AIの導入相談で「精度が心配だ」と言われたとき、私たちは精度を上げる話からは入りません。先に決めるのは、どの業務なら間違っても致命傷にならないかです。アイデア出しや下書きは、多少ずれていても人が直せば済みます。一方で、社外に出る数値や自社の仕様は、一度出てしまうと取り返しがつきません。この線引きを最初にやるだけで、現場の心理的な負担がかなり下がります。
そのうえで効くのは、確認の手順よりも入力の設計です。「思い出させる」使い方をやめて、「渡した資料を整理させる」使い方に切り替える。実際、私たちが自社の記事やレポートを作るときも、AIに知識を答えさせることはほとんどありません。一次情報を確認してから渡し、構成と表現の整理に使っています。この順番にすると、確認作業そのものが軽くなります。
最後に、体制の話です。ハルシネーション対策で最も効くのは、精緻なチェックリストではなく「内容が分かる人が一度読む」という一手間でした。逆にいえば、社内に判断できる人がいない領域は、AIに任せる前に人を確保するか、外に相談する領域です。LnXでは、どの業務にAIを入れ、どこを人が持つかの線引きから一緒に整理しています。ツールの選定より前に、この設計を済ませておくほうが、結果的に定着が早くなります。
よくある質問
Q プロンプトを工夫すれば、ハルシネーションはなくせますか？
減らせますが、なくすことはできません。資料を渡したうえで「この範囲だけで書く」「記載がなければ記載なしと書く」と指示すると、発生率は大きく下がります。ただし現在の生成AIは、文章として自然な続きを出力する仕組みである以上、確信度に関係なく断定的な文章を書き得ます。ゼロにする前提ではなく、出ても業務に影響しない体制を作る前提で設計してください。
Q 出典やURLを示させれば、確認は済みますか？
済みません。示された出典自体が実在しなかったり、実在してもその内容が書かれていなかったりすることがあります。確認するときは、AIが示したリンクを開くだけでなく、自分でその情報を探し直すのが原則です。特に制度・法令・統計は、所管する官庁や事務局の公式サイトまで到達してから使ってください。
Q 社内向けの資料でも、毎回確認が必要ですか？
全部は不要です。アイデア出しや下書きのように、後から人が直せるものは軽い確認で足ります。厳格に扱うべきなのは、社外に出るもの、そして社内規程やマニュアルのように後から根拠として参照されるものです。ただし社内資料が顧客説明に転用されることは多いため、転用の可能性があるものは社外扱いにしておくと安全です。
Q 要約や議事録なら、元の情報があるので安全ではないですか？
比較的安全ですが、事故はあります。文章を整える過程で、実際には決まっていない期日や担当が補われることがあります。議事録は後から根拠として使われるぶん影響が長く残るため、「発言になかったことは書かない」と明示し、参加者が当日中に目を通す運用にしてください。決定事項と担当・期日だけは、人が確認する価値があります。
Q 社内にAIの出力を判断できる人がいない分野は、どうすればよいですか？
その分野はAIに任せる範囲から外すのが基本です。判断できる人がいない状態では、誤りが出ても誰も気づけないため、チェック体制が実質的に存在しないことになります。対応としては、その分野の一次資料を用意して参照させる範囲に限定する、あるいは専門家に確認する工程を挟む、のいずれかになります。下調べの効率化として使う分には有効です。