IT is IT.

空想イノベーション

サポートベクターマシンの欠点克服法

f:id:itry:20190201231508j:plain
SVMとも呼ばれる高度な数学的理論に支えられた手法で、ディープラーニングが登場するまでは、最も人気のある機械学習の手法の1つであった。

サポートベクターマシンでは、入力データの各データ点と距離が最大となるような境界線を求めることで、パターン分類を行う、という手法である。
この距離を最大化することを、マージン最大化と呼ぶ。

一方で、

  • 扱うデータが高次元
  • データが線形分類できない

という問題も存在している。

スポンサーリンク
 

そこで、サポートベクターマシンでは、データをあえて高次元に写像することで、写像の線形分類を行うアプローチをとるようにした。
この写像に用いる関数をカーネル関数と呼び、実際に写像することをカーネルトリックと呼ぶ。