ハルシネーションとは

ハルシネーションとは

ハルシネーション（Hallucination）とは、生成AIが事実ではない情報を、あたかも正しいかのように出力してしまう現象のことです。英語で「幻覚」を意味する言葉で、ChatGPTやClaudeなどのLLM（大規模言語モデル）を業務で使ううえで、避けて通れない課題です。

たとえば「〇〇社の2024年の売上高は？」と聞いたときに、存在しない数字を自信満々に答える。実在しない論文や判例を引用する。こうした振る舞いがハルシネーションの典型例です。

なぜハルシネーションが起きるのか

LLMは「次に来る確率が高い言葉」を予測して文章を組み立てる仕組みです。正しい事実を検索して答えているわけではありません。そのため、学習データに含まれない情報や、曖昧にしか学習していない情報について聞かれると、文脈的に自然な「それっぽい答え」を作ってしまいます。

主な原因は次のとおりです。

• 学習データの不足・偏り: 社内情報や最新ニュースなど、そもそも知らない情報を聞かれている

• 質問が曖昧: 前提条件が足りず、AIが推測で補ってしまう

• 答えないことが苦手: 「わかりません」より何かしら回答する方向に寄りやすい

ビジネスでの具体例

ある製造業の会社が、社内規程の問い合わせにChatGPTをそのまま使ったところ、実在しない「特別休暇の申請ルール」を回答してしまい、総務部に問い合わせが殺到した——というのは、実際によく聞く話です。社内情報を学習していない汎用AIに、社内のことを聞いても正確には答えられません。

ハルシネーションを減らす方法

完全にゼロにすることは現状できませんが、大きく減らすことはできます。

RAGで根拠となる資料を渡す: 社内文書を検索してAIに渡すRAG（検索拡張生成）は、最も効果的な対策のひとつです

プロンプトで制約をかける: 「資料に書かれていないことは『わかりません』と答えて」と明示する

出典を表示させる: 回答の根拠となった文書を一緒に出し、人間が確認できるようにする

人のチェックを挟む: 契約書や対外文書など、間違いが許されない用途では必ず人が最終確認する

プロンプトの工夫についてはプロンプトエンジニアリング実践ガイドでも詳しく解説しています。

関連サービス

Swaaabでは、RAGや出典表示を組み込み、ハルシネーションを抑えた業務用AIシステムをAI開発サービスとして提供しています。