Factorization Machines の学習なんだが、昨日 AdaGrad を実装したんだけれど、収束が遅すぎて使い物にならず、結局 RMSprop、AdaDelta、Adam と、メジャーな手法の全てを試して見る羽目になった。POSTD の記事を読むに AdaDelta が良さそうに思えたんだが、…

朝起きて、すぐに研究室に行く。昨日、実行しておいたプログラムは計算量が重く、一晩中回しても全体の 20% ほどしか進んでおらず、結果を見ることはできなかった。このマシンのスペックをもってして、一晩で計算が終わらなければ、世の中に普及している一般…