確率的ニューラルネットワークにおける学習理論および連想記憶への応用に関する研究

点击翻译按钮获取中文摘要

前年度に続き,ボルツマンマシンの学習においてフィッシャー情報行列の一部のみを利用する方法について,計算機シミュレーションなどを通して詳しく調べた.その結果として,比較的少ないパラメータ修正回数で,外界の確率分布とボルツマンマシンの平衡確率分布の間のカルバックダイバージェンスを小さくすることが可能であることを示した.しかし,実際の画像信号への応用や理論的解析は十分には行なえなかった.この点は今後の課題として残された.また,独立な原信号が未知の行列により混合されたデータを観測して元の信号を復元する,ブラインド情報源分離の問題における各種の解法アルゴリズムの性能について,画像信号などを用いた数値実験および理論的解析を通して比較を行った.その結果,従来知られていたニューラルネットワークを用いて相互情報量を最小にする反復アルゴリズム,および最大尤度法に基づくアルゴリズムと,本研究で提案した信号の2次の無相関化と回転によるアルゴリズムに関して,いずれも信号のクロスキュムラントを用いたコスト関数を最小化する問題として定式化できることを示し,多くの場合について,ほぼ同等の信号分離性能を有することを示した.また,アルゴリズムとしての優劣は信号の統計的性質に依存するが,ある正規化条件の下では,これらのアルゴリズムによる推定量の漸近的性質は等価であると考えられていることを指摘した.今後の課題としては,上記のような信号のクロスキュムラントを最小化するようなアルゴリズムの一般化を行うこととともに,音声信号のような非定常かつ,時間的相関を伴うような信号に対する拡張を行うことが挙げられる.