確率モデルに対する平均場近似法の情報理論的定式化

点击翻译按钮获取中文摘要

昨年度の研究成果をふまえ,EMアルゴリズムにおける平均場近似法の適用,およびAttiasらによって提案されている変分ベイズアプローチについて検討した.もともとのEMアルゴリズムはその収束性について理論的な保証が与えられているが,平均場近似法を適用することによってこの性質が失われてしまう.本研究では,EMアルゴリズムに平均場近似法を適用した場合の幾何学的な描像を,情報幾何学にもとづいて与えた.この描像により,上記の事実は幾何学的に簡明に理解される.また,変分ベイズアプローチは本質的には平均場近似法そのものであり,昨年度までに得た平均場近似法の情報幾何学的解釈が変分ベイズアプローチに対してもそのまま適用できることを確認した.また,この幾何学的解釈にもとづいて,変分ベイズアプローチの改良案を提示した.CDMAマルチユーザ復調の問題は通信工学の分野における問題であるが,本年度の研究活動においてこの問題に対して平均場近似法が適用できることが見出された.この問題にナイーブな平均場近似法を適用した場合を想定して,解析的な性能評価および数値実験による検証をおこなった.統計力学の分野でのBethe近似は,人工知能の分野での確率伝播アルゴリズムとの関連が見出されつつあるが,確率伝播アルゴリズムは通信工学におけるターボ復号法とも関連している.本研究では,Bethe近似とターボ復号法とが本質的には同一の枠組みで捉えられることを明らかにし,両者に対して情報幾何学的な解釈を与えた.これにもとづいて,これらの手法の近似精度と幾何学的な構造との関連を明らかにする結果を得た.