Transformerで用いられる「Multi-Head Attention(多頭注意機構)」の意義に関する記述として、最も適切なものを1つ選択してください。
出典G検定オリジナル模擬試験
ア
Q, K, Vを複数のヘッドに分割して異なる部分空間(アスペクト)へ射影し、文法関係、意味関係、位置関係など異なる複数の視点から同時に並列して注意を払うことができる。
イ
単一のヘッドの計算を単に100回繰り返して算術平均をとるだけであり、表現力の向上効果はない。
ウ
RNNの隠れ状態を8台の別々のコンピュータで分散同期させるためのハードウェアプロトコルである。
エ
ヘッド数を増やすほど計算量がヘッド数に比例して指数関数的に増大するため、ヘッド数は常に1に制限される。