2層ニューラルネットワークにおける中間層のノード数について

[伴野泰祥]

初歩的な質問で申し訳ございません。

チュートリアルにある「2層ニューラルネットワークの設計と学習」で、中間層のノード数をDocsでは100と書いてあったので試しに実行してみたところAccuracyが0.15となってしまいました。そこで、中間層のノード数を少し条件振りしてみたところ、ちょっと不思議な結果となる事が分かりました。これはよくある話なのでしょうか？また、こういったParametric解析をNeural Network Console上で実行する場合の効率的なやり方などありましたら教えて頂けませんでしょうか？

　※今は手作業で中間層のノード数を変えて何度も処理を実行しています

[小林由幸]

学習にはどのようなデータセットを用いられているのでしょうか。
データが少ない場合は学習のパラメータや初期値の影響で、
試行の度に大きく学習結果が異なることがあります。

Neural Network Consoleで様々なパラメータを試したい場合は、
現状既に行われているように複数のパラメータでの学習を繰り返すことになります。

[伴野泰祥]

コメントありがとうございます。チュートリアル通り、Trainingデータセットには「small_mnist_4or9_training.csv」、Validationデータセットには「small_mnist_4or9_test.csv」を使用しました。学習データが500個しか無いのが原因のようですね。

ちなみに、例えば中間層のノード数をStart=10、Stop=5000、Step=10などとして夜中に自動で全条件を計算させるといった処理は可能でしょうか？Neural Network Consoleの標準機能としては無いと思いますが、スクリプトなどを使ってそのような命令を送る方法などありましたら教えて頂きたいです。

[伴野泰祥]

まだ完全には理解出来ていませんが、コンフィグタブにあるStructure Searchという機能が私のやりたかった事に近いような気がしてきました。もう少しいろいろ触ってみます。どうもありがとうございました。

[小林由幸]

> ちなみに、例えば中間層のノード数をStart=10、Stop=5000、Step=10などとして夜中に自動で全条件を計算させるといった処理は可能でしょうか？

このような処理を行うには、現状Neural Network Librariesを直接ご利用いただくのがよいかと思います。
Structure Searchはお任せになりますが、より気軽に精度の高いネットワークを探索させるのに適した機能です。