サポートベクトルマシン (SVM)
更新日:
用語解説
サポートベクトルマシン（SVM）は、主に分類で、クラス境界に最も近い訓練点との余白であるマージンを最大化する分離超平面を求める手法です。
■ 試験で押さえるポイント
境界を決めるのはマージン上又は内側のサポートベクトルで、境界から十分離れた点は解へ直接影響しにくい特徴があります。
完全分離できないデータではソフトマージンを用い、パラメータCで誤分類への罰と広いマージンのバランスを調整します。
カーネルトリックにより、特徴を高次元へ明示的に展開せず、RBF等を使って元空間で非線形な境界を表せます。
距離や内積へ依存するため特徴量の尺度をそろえ、Cやカーネル係数を交差検証で選びます。確率出力は標準で直接得る値ではありません。
■ 選択肢での判断ポイント
マージン最大化、サポートベクトル、カーネル法を対応付けます。多数の木の多数決を行う手法ではありません。
例: 二次元の二クラスで境界に最も近い両側の点までの距離が最大になる直線を選びます。外れ値を許す度合いはCで調整します。