コンテキストウィンドウ(文脈長)と利用上の制約

コンテキストウィンドウはモデルが一度に処理できる文脈の広さです。文脈長が長くなると、文章の最初と最後の情報はよく記憶されるものの、中央付近の情報が無視・見落とされやすくなる「Lost in the Middle」現象が知られており、適切なプロンプティングやRAGが重要になります。 ア:誤りです。コンテキストウィンドウには入力と出力の合計トークン数が含まれるほか、出力トークン数自体にもモデル固有の上限(Max Output Tokens)が存在します。 イ:誤りです。長大なコンテキストを扱えるモデルであっても、文脈の中央部に埋もれた情報を正確に読み取れなくなる「Lost in the Middle」現象が発生します。 ウ:正解です。コンテキストウィンドウの定義、コストやレイテンシの増加、およびLost in the Middle現象について的確に指摘しています。 エ:誤りです。ウィンドウサイズを超える入力はエラーになるか、古い部分が切り捨てられて参照できなくなります。

LLMの「コンテキストウィンドウ(Context Window)」およびその利用における注意点に関する記述として、最も適切なものを1つ選択してください。

出典生成AIパスポートオリジナル模擬試験
ア
コンテキストウィンドウのサイズ制限は「ユーザーが入力したプロンプトのトークン数」のみに適用され、モデルが生成して出力するレスポンスのトークン数にはいかなる上限も存在しない。
イ
コンテキスト長が100万トークンを超える超長文対応モデルであれば、長大な入力テキストの中央部分に書かれた微細な情報であっても、人間が手作業で読むのと全く同じ見落としゼロの完全な精度で確実に抽出できる。
ウ
モデルが一度に参照・保持できる入力プロンプトと出力テキストの合計トークン数の上限であり、長大なコンテキストを入力すると計算コストやレイテンシが増大するほか、文脈の中央付近の情報を見落としやすい現象(Lost in the Middle)に留意する必要がある。
エ
コンテキストウィンドウを超過したプロンプトを入力した場合、モデルは自動的に過去のコンテキストをすべて永続メモリに保存するため、情報が欠落したりエラーが発生したりすることはない。