ハルシネーションとは
ハルシネーション（Hallucination：幻覚）は、生成AIが事実と異なる内容を、もっともらしく出力する現象です。存在しない論文や判例、誤った数値、実在しない製品の機能などが、自信ありげな文章で示されます。
原因は、LLMが「正しい事実」ではなく「もっともらしい続きの言葉」を選んで文章を作る点にあります。学習データに無い情報や、あいまいな情報を問われても、それらしい答えを組み立ててしまいます。そのため、仕組み上ゼロにはできません。
減らす方法はいくつかあります。根拠となる資料を一緒に渡す（RAG）。資料に無いことは「分からない」と答えさせる。出典を示させて人が確かめる。こうした対策の組み合わせが基本です。
業務では、誤りが外に出たときの影響の大きさで、確認の手間を決めます。社外に出す文書、契約や法務、数値を扱う資料は、必ず人が元資料と照らし合わせます。
具体例
資料の範囲で答えさせる
社内規程について質問するとき、規程の本文を一緒に渡します。そして「この資料に書かれていないことは『記載なし』と答えてください」と指示します。AIが記憶から推測で補う余地を減らせるので、誤答が大きく減ります。あわせて「根拠となる条文番号を示してください」と頼めば、人が確かめる手間も少なくなります。
実在しない出典に注意する
「参考文献を挙げて」と頼むと、著者名・題名・年がそろった、実在しない文献が混ざることがあります。文献や URL は、必ず実物を開いて確認してから使います。
確認の手間を影響の大きさで決める
社内向けのアイデア出しなら、多少の誤りは許容できます。一方、顧客への回答や契約書の条文案は、誤りがそのまま損害につながります。用途ごとに「誰が・何と照らして確かめるか」を決めておくと、確認漏れを防げます。