松井 都志子
2014/10/15 (水), 16:00-18:00
東京大学 工学部6号館 235号室
機械学習分野における，順序データを扱うタスクに対する回答統合問題の目的関数最適化にあたっては，階乗オーダーで増加する計算量の削減のために，様々な近似手法の適用が考えられる．
夏学期輪講では，考えられうる近似解法として，マルコフ連鎖モンテカルロ(MCMC)法を軸とし，Contrastive Divergence(CD)法 [1]，ハミルトンモンテカルロ(HMC)法 [2] の概要を紹介し，明示的に計算した場合に比べて，膨大である分配関数部分の計算量削減が可能となりうる点に触れた．
本輪講においては，その中でも特に，目的関数の最適化にあたって現れる分配関数のMCMC法を用いた計算方法 [3]，HMC法適用時に必要となる離散分布の連続緩和 [4] に重点を置き，対象とする離散目的関数と対応づけながら，適用法を紹介していくこととする．
参考文献
[1] Hinton, G. E.: Training Products of Experts by Minimizing Contrastive Divergence, Neural Comput., Vol. 14, No. 8, pp. 1771-1800 (2002)
[2] Duane, B. J. P. D. R., A.D. Kennedy: Hybrid Monte Carlo, Physics Letters B, Vol. 195, No. 2, pp. 216-222 (1987)
[3] 伊庭幸人他, 統計科学のフロンティア 計算統計Ⅱ マルコフ連鎖モンテカルロ法とその周辺, 岩波書店(2006)
[4] Zhang, Y., Sutton, C. A., Storkey, A. J., and Ghahramani, Z.: Continuous Relaxations for Discrete Hamiltonian Monte Carlo, in NIPS, pp. 3203-3211 (2012)
