畳み込みフィルタ（特徴抽出器）の自動生成。
2015/9/5
前回のConvNetは期待外れに終わった。いろいろ考えてみたが、実装が間違っていた可能性がある。 そして、どうすればいいのかも発想を得たので、実装で確かめていく。 まず今回は、畳み込みフィルタ（特徴抽出器）を自動的に作るところ。
学習 or 認識する画像
畳み込みフィルタの重み
いろいろ考えて、
- 畳み込みには単純な重み適応型フィルタを使う。（パーセプトロンでない）
- 画像上の各位置で「最も一致するフィルタ」だけを学習させる。
前回は、畳み込み層にパーセプトロンを使っていたので、学習するフィルタを選別するという発想にならなかった。一致するフィルタも不一致のフィルタも、それに応じた誤差をフィードバックされ、誤差に基づいて学習するのだから選別は不要と考えていた。 今回は、「特徴抽出器を自動生成する」という目的だけに立ち返って実装はゼロから考えてみたことで、単純な重み適応型フィルタも除外せず、必然的に学習するフィルタの選別に至った。