ベイズ学習によるモデル選択を用いた確率モデルのパラメータとモデルの学習

ディリクレプロセスおよび階層ディリクレプロセスと呼ばれる手法を用いたモデルの構造学習に関して三つの研究を行った。これらの手法は近年モデルの構造学習に有用であることが認識され盛んに研究されている。従来これらの手法にはマルコフ連鎖モンテカルロ法が用いられてきたが、我々は高速化のために変分法を用いた解法について研究を行った。一つ目の研究では階層ディリクレプロセスに対する変分法を用いたアルゴリズムを提案し、従来固定されていたハイパーパラメータの学習法も合わせて提案した。この研究はNIPS2007に採録されポスター発表を行った。二つ目の研究では、ディリクレプロセスの変分法に関連する研究として、MEアルゴリズムの提案をした。MEアルゴリズムは従来の変分法の近似になるが、その代りに高速な実装が可能になる。現実の巨大なデータに対してはこのような高速化なしでは解析できないため、実用上非常に重要な結果である。この研究は論文誌Neural Computationへの採録が決定した。三つ目の研究では、特徴選択とディリクレプロセスによる構造学習を組み合わせた学習法をていあんした。特徴選択は様々な研究がおこなわれているが、ディリクレプロセスを用いたモデルに対して特徴選択可能な変分法を用いたアルゴリズムは我々の知る限りこの研究が初である。この研究はSIAMSDMに採録が決定した。これらの研究は本研究目標に対する重要な成果をあげることができた。

ディリクレプロセスおよび階層ディリクレプロセスと呼ばれる手法を用いたモデルの構造学習に関して三つの研究を行った。これらの手法は近年モデルの構造学習に有用であることが認識され盛んに研究されている。従来これらの手法にはマルコフ連鎖モンテカルロ法が用いられてきたが、我々は高速化のために変分法を用いた解法について研究を行った。一つ目の研究では階層ディリクレプロセスに対する変分法を用いたアルゴリズムを提案し、従来固定されていたハイパーパラメータの学習法も合わせて提案した。この研究はNIPS2007に採録されポスター発表を行った。二つ目の研究では、ディリクレプロセスの変分法に関連する研究として、MEアルゴリズムの提案をした。MEアルゴリズムは従来の変分法の近似になるが、その代りに高速な実装が可能になる。現実の巨大なデータに対してはこのような高速化なしでは解析できないため、実用上非常に重要な結果である。この研究は論文誌Neural Computationへの採録が決定した。三つ目の研究では、特徴選択とディリクレプロセスによる構造学習を組み合わせた学習法をていあんした。特徴選択は様々な研究がおこなわれているが、ディリクレプロセスを用いたモデルに対して特徴選択可能な変分法を用いたアルゴリズムは我々の知る限りこの研究が初である。この研究はSIAMSDMに採録が決定した。これらの研究は本研究目標に対する重要な成果をあげることができた。