DQNの改良手法群(Double DQN, Dueling Network, PER)

max演算によるQ値の過大評価を防ぐDouble DQN、行動によらない状態の良さ V(s) と行動の差別化 A(s, a) を分けて学ぶDueling Network、TD誤差の大きい重要な経験を多く学ぶPrioritized Experience ReplayなどがRainbowに統合されました。 ア:正解です。Q(s, a) = V(s) + (A(s, a) - mean(A)) という分解と過大評価の抑制が正確に説明されています。 イ:誤りです。TD誤差(予測と目標の乖離)が大きい「予想外で学習価値の高い経験」を優先的にサンプリングします。 ウ:誤りです。ネットワーク層数の倍増ではなく、選択と評価の分離です。 エ:誤りです。ネットワーク内部のアーキテクチャの工夫であり、自己対戦(Self-play)ではありません。

DQNの改良アルゴリズムに関する記述として、最も適切なものを1つ選択してください。

出典G検定オリジナル模擬試験
ア
Double DQNは、行動選択と価値評価で別々のネットワークを用いることでQ値の過大評価(過剰な楽観性)を抑制し、Dueling NetworkはQ関数を状態価値 V(s) とアドバンテージ A(s, a) に分解して学習する。
イ
優先度付き経験再生(Prioritized Experience Replay)は、TD誤差がゼロの最も簡単な遷移データのみを優先してサンプリングする。
ウ
Double DQNはネットワークの層数を2倍に深くすることだけを目的とした手法である。
エ
Dueling Networkはエージェントを2体用意して互いに対戦させる強化学習手法である。