- 【統計分析】機械学習・データマイニング5 [転載禁止]©2ch.net
720 ：デフォルトの名無しさん[sage]：2016/01/07(木) 21:27:36.52 ID:wxG0+LQJ - 初学者で今ニューラルネットワークの実装を行っているところなのですが
論理演算のような2入力2出力などの簡単な分類は成功するのですが
入力50次元出力3次元の教師データ5000サンプルを学習させると
結合の重みが学習を重ねるごとに大きくなってしまい，どのサンプルを入力しても同じ出力を出してしまいます
本を参考に作ったのですがこれは何が原因でしょうか？
|
- 【統計分析】機械学習・データマイニング5 [転載禁止]©2ch.net
722 ：デフォルトの名無しさん[sage]：2016/01/07(木) 21:55:15.09 ID:wxG0+LQJ - >>721
ありがとうございます
目から鱗な情報がたくさんありました
一つ一つ試してみようと思います
|
- 【統計分析】機械学習・データマイニング5 [転載禁止]©2ch.net
724 ：デフォルトの名無しさん[sage]：2016/01/07(木) 22:45:44.11 ID:wxG0+LQJ - >>721 >>723
教師データが一通り訓練し終わったらシャッフル
非線形関数をシグモイド関数からアークタンジェント関数に変更
時間とともに学習係数を小さくする（手抜きで一通りするごとに×0.95）
試しにこれだけやってみたところ期待した出力に近いものが得られるようになってきました
ただ学習回数，学習係数，学習係数低下具合の手探り感が否めません
|