AIのハルシネーションとは？原因と防ぐ方法

AIのハルシネーションとは？

例えば、AIに東京都内で売上が伸びている企業20社の法人番号を尋ねたとします。一見すると筋の通った、網羅的な企業リストが返ってきても、その法人番号はすべて架空かもしれません。

ハルシネーションの厄介な点は、回答に論理的な外見があり、AIも疑いを示さないことです。言語モデルの画面で数値や事実を確認するよう促されるのは、このためです。

AIのハルシネーションはなぜ起こる？

ハルシネーションは、主に次の3つの状況で起こります。

• データがない（最大の原因。モデルが推測で補う）
• 指示が曖昧（モデルが不足している条件を補う）
• タスクが複雑すぎる（モデルが一度にすべてを処理しようとする）

問題は言語モデルだけにあるのではなく、必要なデータにアクセスできるかどうかにもあります。つまり、ハルシネーションは予測不能に突然起こるものではありません。原因となる条件を見極め、対策を講じることができます。

AIのハルシネーションを防ぐには？

AIのハルシネーションを防ぐには、構造化されたデータに直接アクセスできるようにすることが重要です。言語モデルはそのような環境でこそ、情報の解釈、判断、結論の導出をうまく行えます。

以下では、必要な技術レベルに応じて選べる3つの方法を紹介します。

データファイルを用意する

必要なデータをあらかじめ用意するのは、ハルシネーションのリスクを減らすもっとも手軽な方法です。AIが情報を「作り足す」余地を小さくできます。

使い始めたばかりの人は、言語モデルを検索エンジン、ETLパイプライン、データ収集ツールが一体になった万能の存在として扱いがちです。しかし、データの収集、クリーニング、標準化を一度に求めると、扱う情報がコンテキストウィンドウの上限を超え、ハルシネーションのリスクが大きく高まります。

そのため、データ収集を複数の小さな指示に分け、AIの回答が事実に合っているかをその都度確認しましょう。地道で時間のかかる作業に思えても、こうして信頼できる土台を作れば、言語モデルは手元のデータを活用する本来の力を発揮できます。

APIを活用する

APIへの接続は、より高度な解決策です。データにすばやく、大規模にアクセスでき、常に新しい情報を利用できます。データファイルを渡すことがバケツ一杯の水を渡すことなら、APIは蛇口を使えるようにすることです。

ChatGPT、Claude、Geminiが行う検索は、人が情報を探す方法と大きくは変わりません。言語モデルはRedditやWikipediaなど、外部サイトのコンテンツを参照し、回答を返します。

ただし、この方法では情報の正確さや鮮度を保証できません。情報源が分散していると、形式や更新日の違いに加え、人による誤りや意見が混じることもあります。APIなら、整えられたデータを一定の形式で取得できるため、こうした弱点を補えます。

例えばMonitlyのAPIでは、総務省統計局、Eurostat、World Bank、WHO、IMFなどの機関が提供する情報源に直接接続し、世界各地の統計データを取得できます。AIはさまざまなサイトを探し回る代わりに、APIへ直接問い合わせて最新の結果を受け取れるため、データの分析や解釈がしやすくなります。

MCPに接続する

AIをMCP（Model Context Protocol）に接続すると、言語モデルはファイル、スプレッドシート、コード、アプリに直接アクセスできるようになります。モデルが既存のデータを使って作業できるため、ハルシネーションのリスクを大幅に減らせます。

例えば企業データを扱うCompabaseは、AIが国内企業の情報をすばやく確認できるMCPを提供しています。東京都内で売上が伸びている企業20社の法人番号を尋ねても、架空の情報ではなく、整合性のある検証済みのリストを得られます。モデルが突然「賢くなった」わけではありません。以前はアクセスできなかったデータベースに対し、単純なSQLクエリを実行して結果を取得できるようになったのです。

言い換えると、次のような違いがあります。

MCPがない場合：

• 存在しない企業が含まれる
• 財務データがでたらめになる
• 法人番号が架空のものになる

MCPがある場合：

• モデルがデータベースに問い合わせる
• 該当するレコードを取得する
• 問い合わせに対して再現性のある結果が得られる

もちろん、過度に複雑なデータ処理や突き合わせを求めれば、MCPを使ってもハルシネーションが完全になくなるわけではありません。それでも、整理されたデータをリアルタイムで利用でき、解釈の余地を絞れる環境を整えれば、AIは推測する代わりに、実在する情報を分析できるようになります。