ハルシネーション
ハルシネーションは、生成AIが事実と異なる内容や、根拠から確認できない内容をもっともらしく出力する現象です。
30秒でわかる要点
ハルシネーションは、生成AIが事実と異なる内容や、根拠から確認できない内容をもっともらしく出力する現象です。
モデルは文章の自然さを保ちながら次の語を予測するため、事実確認機能が自動的に働くとは限りません。
数値、固有名詞、引用、法令、料金は別工程で照合します。
RAGや検索接続だけで完全には防げません。取得情報の品質、指示、評価データ、人の確認が必要です。
誤答を分類し、事実誤認、情報欠落、出典不一致、競合との混同のどれかを記録します。
ハルシネーションの意味
ハルシネーションは、生成AIが事実と異なる内容や、根拠から確認できない内容をもっともらしく出力する現象です。
主な検索表記：AI ハルシネーション、ハルシネーション、生成AI ハルシネーション
AI回答におけるハルシネーションの役割
モデルは文章の自然さを保ちながら次の語を予測するため、事実確認機能が自動的に働くとは限りません。曖昧な質問、古い知識、弱い取得結果でも起こります。
運用時の確認点
数値、固有名詞、引用、法令、料金は別工程で照合します。企業情報では公式ページを明確にし、古い説明を更新・統合します。
ハルシネーションで起きやすい誤解
RAGや検索接続だけで完全には防げません。取得情報の品質、指示、評価データ、人の確認が必要です。
実務チェックリスト
数値、固有名詞、引用、法令、料金は別工程で照合します。
企業情報では公式ページを明確にし、古い説明を更新・統合します。
誤答を分類し、事実誤認、情報欠落、出典不一致、競合との混同のどれかを記録します。
参考資料
仕様や検索機能は変更されることがあります。実装時には、次の公式資料の最新版も確認してください。
ウェブサイトで生成 AI コンテンツを使用するためのガイダンス（Google 検索セントラル）
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks（NeurIPS）