ハルシネーション

更新日:

用語解説

ハルシネーションは、生成AIが、事実でない内容や存在しない出典などを、もっともらしく生成する現象です。

■ 試験で押さえるポイント

  • 生成AIは、もっともらしい語を確率的に並べるため、流暢な文章でも正しいとは限りません。

  • 知識の不足や古さ、あいまいな指示などが原因になります。

  • 検索結果を参照させるRAGで減らせますが、なくすことはできないため、一次資料で確認します。

■ 選択肢での判断ポイント

もっともらしい誤りを生成する現象を選び、RAGで完全に防げるという説明は誤りとします。

音声で聞く

同じ分野の用語