深層学習における最適化アルゴリズム（オプティマイザ）の進化と特徴に関する記述として、最も適切なものを1つ選択してください。
出典G検定オリジナル模擬試験
ア
Adamは、勾配の過去の移動平均（一次モーメント：モーメンタムの考え方）と、勾配の二乗の移動平均（二次モーメント：RMSpropの適応的学習率の考え方）の両方を組み合わせた手法である。
イ
AdaGradは学習が進むにつれて学習率を徐々に自動拡大させていくため、学習の終盤で更新量が無限大に発散しやすい。
ウ
Momentumは過去の勾配履歴を一切保持せず、各ステップの勾配の符号のみを用いてパラメータを更新する。
エ
RMSpropは重み減衰（Weight Decay）を正しく組み込んだ最新のTransformer専用オプティマイザである。