LLMの事前学習に用いられるデータセットの収集および前処理に関する記述として、最も適切なものを1つ選択してください。
出典生成AIパスポートオリジナル模擬試験
ア
学習データの収集においては「質」よりも「量」だけが決定的に重要であり、低品質なテキストやヘイトスピーチ、重複コンテンツを無差別にそのまま大量投入するほどモデル性能は確実に向上する。
イ
Webスクレイピングデータには個人情報や著作物が含まれている可能性があるが、学習段階でのフィルタリングや重複排除(Deduplication)はモデルの汎化性能を著しく損なうため避けるべきである。
ウ
AI自身が生成した合成データのみを何世代にもわたって再帰的に事前学習データとして使い続けると、モデルの出力品質や表現の多様性は劣化することなく無限に向上し続ける。
エ
高品質なモデルを構築するためには、個人情報や有害コンテンツの除去、重複データの削除(Deduplication)、事実性の低いスパムや低品質テキストの除外などの厳格なデータ前処理・フィルタリングがモデルの性能と安全性を大きく左右する。