手書き文字認識のConvNet対応。
2015/4/19
手書き文字認識をConvolutional Newral Networkに対応させる。
プログラム。
var CONF でネットワーク構成を設定できるようになっている。Conv層からConv層へのバックプロパゲーションのやり方が分からないのでConvは1層だけ。Input → Conv → FullConnect → Output の4層で構成した。
学習結果。
フィルターの重み
検証結果
うまくいかない。ConvNet層無しの3層パーセプトロンのほうが同じ学習回数で成績が良い。。。 Conv層のバックプロパゲーションのやり方が間違っているのだろうか。。。 いろいろ検索してみたが畳込み層の学習方法の具体的なやり方が分からない。。。 ソースコードもあったけれど肝心なところまで追いかけきれなかった。。。
参考になったリンク。
-
ディープラーニング チュートリアル
Deep LearningとCNNの概要。
-
Deep Learningと画像認識 ~歴史・理論・実践~
CNNの仕組みを知る手がかり。
-
Convolutional Neural Networkの特徴抽出過程における不変性獲得の調査
パーセプトロンからCNNまで知識の整理。
-
ConvNetJS
想像力が刺激されるいくつかのデモ。
さらに調べる。
- Learning Deep Architectures for AI
- RBM, Deep Learning と学習
- 卒研用のメモ,機械学習の基礎と畳み込みニューラルネットワークとは何か
- Deep Learning 使いこなすために知っておきたいこと
- 画像認識分野でのディープラーニングの研究動向
- Theano で Deep Learning
-
Convolutional Neural Networks (LeNet)
畳込みのやり方説明は一番詳しい。けれどまだ不明なところもある。