読者です 読者をやめる 読者になる 読者になる

daruma3940の日記

理解や文章に間違い等あればどんなことでもご指摘お願いします

進行度の学習なのじぇ

f:id:daruma3940:20160520223745p:plain

今日は進行度の学習をしてみたのじぇ。

f:id:daruma3940:20160521003616p:plain

あら?局面の進行度はKKPと相手の効きのあるマスの数で評価するんじゃなかったの?

f:id:daruma3940:20160520223745p:plain

それは進行度じゃなくて優勢度なのじぇ。

しかもその方法ではちゃんと優勢度を測れていなかったことを最近確認したのじぇ。

f:id:daruma3940:20160520223745p:plain

だから技巧式の進行度計算を取り入れようと思ったのじぇ。

f:id:daruma3940:20160521003616p:plain

PR文章の内容を無視し始めちゃったわね....

f:id:daruma3940:20160520223745p:plain

まりちゃだって改悪だけじゃなくて出来る限りの改良をしたいのじぇ!

f:id:daruma3940:20160520223745p:plain

学習方法はAdadeltaなのじぇ。実装は技巧の学習方法を参考にさせていただいたのじぇ。(まあ技巧の実装を丸パクリしてきた後、Adadeltaの元論文の方法に直しただけなのじぇ)

f:id:daruma3940:20160520223530p:plain

さあ!Squirrelくん!お勉強の時間だよ!!

 

f:id:daruma3940:20160709192554j:plain

エッ???

f:id:daruma3940:20160520223745p:plain

まあ初めてだからかる~~く学習データ28000局、反復回数1000回でかんべんしてあげるのじぇ。

f:id:daruma3940:20160709192554j:plain

28000局!???1000回!????

全然軽くないよ~~~~(´;ω;`)ひえ~~~~

f:id:daruma3940:20160520223745p:plain

それじゃさっそくいくのじぇ~~~♪

f:id:daruma3940:20160709192554j:plain

え?もう始めるんですか!?

f:id:daruma3940:20160520223745p:plain

もうはじめちゃうのじぇ。ちゃんと学習しておくのじぇ~~

f:id:daruma3940:20160709192554j:plain

(´;ω;`)

f:id:daruma3940:20160521003616p:plain

...

ちょっと学習の様子を見てみましょうか...

f:id:daruma3940:20160902232814p:plain

 

f:id:daruma3940:20160521003616p:plain

あら?iterationが進んでも値が全然変わってないじゃない!

f:id:daruma3940:20160709192554j:plain

そんなこと言わないで欲しいよ~~

こっちだって頑張ってるんだよ~~

f:id:daruma3940:20160520223745p:plain

う~んSquirrelくんはスロースターターなのかもしれないのじぇ。

もうちょっと様子を見ようじぇ。

 

......

f:id:daruma3940:20160902233012p:plain

 

f:id:daruma3940:20160520223530p:plain

....全然駄目みたいだね.....

f:id:daruma3940:20160520223745p:plain

う~ん

もしかしたらこのサイトのGIFみたいに鞍点に乗り上げてしまったのかもしれないのじぇ。

DeepLearningがなぜうまく学習出来るのか | ALBERT Official Blog

 

f:id:daruma3940:20160521003616p:plain

たった一回のiterationで鞍点に乗り上げてしまうかしらねぇ???

f:id:daruma3940:20160520223745p:plain

まあもうちょっと待とうじぇ

 

.....

f:id:daruma3940:20160902233542p:plain

f:id:daruma3940:20160520223745p:plain

駄目みたいですね.....

 Squirrelくん!よく頑張ってくれたのじぇ!まりちゃの設定が悪かったみたいなのじぇ!一旦止めるのじぇ!もう大丈夫なのじぇ!

f:id:daruma3940:20160709192554j:plain

やっと終わった......きつかったよ~~~

f:id:daruma3940:20160521003616p:plain

お疲れ様ね...ところで今回の学習の何が悪かったのかしらね...

 

f:id:daruma3940:20160520223745p:plain

考えられる原因としては

技巧の学習方法はAdagradを改良した方法みたいだったのでそれを無理やりAdagradになおしてしまったのが駄目だったのかもしれないのじぇ。

 

あと学習用データも技巧では50000局用意していたけれど

まりちゃがFloodgateから変換器を用意して取り出した棋譜の数は30000ちょっとしかなくて50000も学習用データを用意できなかったのじぇ。(これは恐らくそこまで大きな原因ではない)

 

そもそもプログラムにバグが有ったかもしれない^^;(多分これが原因)

 

まあいろいろ考えられるので一回学習方法を次元下げ以外技巧の方法そのままにしてみるのじぇ。

 

 

f:id:daruma3940:20160520223745p:plain

お疲れなのじぇ!

f:id:daruma3940:20160709192554j:plain

^^;