４層以上のパーセプトロン。

はじめに実装した３層パーセプトロンを４層以上に対応させる。 隠れ層が増えたときにバックプロパゲーションのδの計算方法がどうなるのか実装がわからないので、というか想像はつくけれどそれでいいのかどうか確かめてみる。

プログラム。

ユニット数 NUM[] の定義を変更すれば何層にでも対応できる。ここでは５層（隠れ３層）に設定している。

実行結果。

どうやらこれでいいらしい。隠れ層1,2,3,4はそれぞれ、グレー、水色、緑、オレンジ色の線。

隠れ１層目はシグモイドだが、２層目以降はより複雑な曲線が表現できることが視覚的にわかる。多層化するほど収束（伝播）は遅くなり、かといって学習率ETAを上げると振動しやすい。多層化により認識力が高まるかわりに学習が困難になることが体感できる。

f(x)=x² f(x)=abs(x) f(x)=sin(PI･x) f(x)=sin(2PI･x)

参考になったリンク。

• 無い。インストールもソース解釈もすごくハードルが高そうな実装例なら無くもないが、 手が出ない以上参考にならない。だから実装してみた。