人間の脳を真似したニューラルネットワーク

人間の脳の中の構造を模したアルゴリズムである。
人間の脳には、ニューロンと呼ばれる神経回路があり、互いに結びつくことで全体を構成している。

単純パーセプトロンは、ニューラルネットワークのモデルで、複数の特徴量（入力）を受け取り、1つの出力を行う。
入力を受け取る部分を入力層、出力する部分を出力層と呼び、入力層と出力層の各ニューロンの繋がりを重みで表現する。
この時の、各層の伝播を調整する関数を、活性化関数と呼ぶ。
また、出力を0か1で表すこともあれば、シグモイド関数によって0から1の値で表すこともある。

スポンサーリンク

さらに、層を追加したモデルを多層パーセプトロンと呼ぶ。
多層パーセプトロンは、入力層と出力層の間に、隠れ層が存在している。
隠れ層により、ネットワーク全体の表現力が向上し、非線形分類を行うことができるようになった。

また、誤差逆伝播法（backprppagation）により、予測値と実際の値の誤差を、フィードバックできるようになった。
ただしディープラーニングが登場するまでは、ブースティングやサポートベクターマシーンの方が人気があった。