LLMの「コンテキストウィンドウ(Context Window)」およびその利用における注意点に関する記述として、最も適切なものを1つ選択してください。
出典生成AIパスポートオリジナル模擬試験
ア
コンテキストウィンドウのサイズ制限は「ユーザーが入力したプロンプトのトークン数」のみに適用され、モデルが生成して出力するレスポンスのトークン数にはいかなる上限も存在しない。
イ
コンテキスト長が100万トークンを超える超長文対応モデルであれば、長大な入力テキストの中央部分に書かれた微細な情報であっても、人間が手作業で読むのと全く同じ見落としゼロの完全な精度で確実に抽出できる。
ウ
モデルが一度に参照・保持できる入力プロンプトと出力テキストの合計トークン数の上限であり、長大なコンテキストを入力すると計算コストやレイテンシが増大するほか、文脈の中央付近の情報を見落としやすい現象(Lost in the Middle)に留意する必要がある。
エ
コンテキストウィンドウを超過したプロンプトを入力した場合、モデルは自動的に過去のコンテキストをすべて永続メモリに保存するため、情報が欠落したりエラーが発生したりすることはない。