ハルシネーション(幻覚)の発生原因と本質

LLMは「真実を判定する知識エンジン」ではなく「次に来るもっともらしい単語を確率的に予測する言語モデル」です。そのため、知らないことでも流暢にもっともらしい嘘を生成してしまう性質があり、外部知識を検索して参照させるRAGや、人間による検証が不可欠です。 ア:誤りです。ハルシネーションは通信障害などの物理エラーではなく、モデルが内容的に誤った事実を事実であるかのように生成する現象です。 イ:正解です。確率的言語モデルの特性上、もっともらしい虚偽の情報を生成してしまう本質的なメカニズムを正確に説明しています。 ウ:誤りです。モデルの巨大化や学習の工夫によって低減は進んでいますが、確率的生成である以上、ハルシネーションを完全にゼロにすることは困難です。 エ:誤りです。プロンプトによる指示で抑制効果はあるものの、100%確実に防ぐことは不可能です。

生成AIにおける重要課題である「ハルシネーション(Hallucination:幻覚)」の本質およびその原因に関する記述として、最も適切なものを1つ選択してください。

出典生成AIパスポートオリジナル模擬試験
ア
ハルシネーションとは、ユーザーのPC端末における通信障害やサーバーのハードウェア故障によって、文字化けや画面フリーズが発生するインフラ層の物理障害のことである。
イ
モデルが「事実として正しいか否か」ではなく「統計的に文脈としてつながりやすい確率の高い文字列」を出力する仕組みであるため、学習データにない事象や未学習の事実に対しても、あたかも事実であるかのように堂々と誤った情報を出力してしまう現象である。
ウ
モデルのパラメータ数を1兆個以上に増大させればハルシネーションは完全に根絶され、最新の大規模商用モデルではいかなる誤情報も一切出力されないことが数学的に証明されている。
エ
ハルシネーションはプロンプトの冒頭に「事実のみを記述し、絶対に嘘をつかないでください」と1行明記するだけで、技術的に100%確実に防ぐことができる。