多層パーセプトロン
更新日:
用語解説
多層パーセプトロン（MLP）は、入力層、一層以上の全結合隠れ層、出力層を順方向に接続したフィードフォワード型ニューラルネットワークです。
■ 試験で押さえるポイント
各層は前層の全出力の重み付き和とバイアスを計算し、隠れ層でReLU等の非線形活性化を適用します。
非線形活性化がなければ複数の線形層は一つの線形変換へ合成され、XORのような線形分離不能な関係を表せません。
二値分類ではシグモイド、多クラス分類ではソフトマックス、回帰では線形出力など、目的と損失関数に合う出力層を選びます。
全結合のため入力次元と層幅に応じパラメータ数が増えます。局所構造を共有重みで扱うCNNや、時系列状態を持つRNNとは構造が異なります。
■ 選択肢での判断ポイント
全結合の順方向ネットワークで、隠れ層の非線形性によって複雑な境界を表す点を押さえます。
例: 入力10個、隠れユニット5個の全結合層には重み個とバイアス5個、合計55個の学習パラメータがあります。