多層パーセプトロンと万能近似定理

ホーンらが示した万能近似定理は、適切な非線形活性化関数を備えた1層の隠れ層を持つフィードフォワードネットワークが、十分なニューロン数があれば任意の連続関数を近似できることを保証します。 ア:正解です。理論上は1層の隠れ層でも任意の連続関数を任意の精度で表現可能です(ただし効率や汎化のためには深層化が有効です)。 イ:誤りです。定理は「隠れ層が1層であっても」十分な幅があれば近似可能であることを示しています。 ウ:誤りです。表現能力の保証であり、過学習の回避や汎化性能を保証する定理ではありません。 エ:誤りです。活性化関数が線形(恒等関数)の場合、何層重ねても1つの線形変換に縮約されてしまい非線形関数は近似できません。

多層パーセプトロン(MLP)の能力に関する「万能近似定理(普遍性定理)」の説明として、最も適切なものを1つ選択してください。

出典G検定オリジナル模擬試験
ア
非線形な活性化関数を持つ隠れ層を少なくとも1層含み、ユニット数が十分に多ければ、任意の連続関数を任意の精度で近似できる。
イ
隠れ層の層数を100層以上に深くしなければ、線形関数であっても近似することができない。
ウ
どのような複雑なデータに対しても、過学習を一切起こさずに訓練誤差とテスト誤差の両方をゼロにできる。
エ
活性化関数として恒等関数のみを用いた場合でも、層を重ねるだけで任意の非線形関数を近似できる。