ハルシネーションとは？

生成AI・リスク管理

ハルシネーションとは、生成AIが事実ではない内容、存在しない人物・制度・出典、誤った数字などを、もっともらしい文章として生成する現象です。文章が自然でも、内容が正しいとは限りません。

企業で問題になる場面

• 顧客へ送る回答や提案書に誤情報が入る
• 存在しない法律、統計、参考文献を掲載する
• 商品仕様、料金、日付、会社情報を間違える
• WEB記事やSNS投稿で誤解を広げる

確認方法

重要な情報は、官公庁、メーカー、契約書、自社データなどの一次情報と照合します。AIに出典を尋ねるだけでは、その出典自体が誤っている可能性があるため、実際のページや原資料を人が確認します。

リスクを減らす運用

AIは要約や下書きに使い、公開・送信前の確認者を決めます。数字、固有名詞、日付、引用、法令、金融・医療など影響の大きい内容には、より厳しい確認手順が必要です。