ノンパラメトリック・モデルに於けるオンライン知識情報処理の最適化

平成16年度の新たな研究成果:平成15年度に得られた研究成果を"(非線型なパラメータ化を行った)確率密度関数推定モデル"に対して,実験的にも有効性を確認した.しかし,"回帰問題"や"(線型なパラメータ化を行った)確率密度関数推定モデル"に対しては,有効性が実験的に確認できない事が判明した.そこで,これらの原因を解明する為の研究を開始し,次の研究成果が得られた.(1)累積的な相互情報量の導出による,事前分布変更効果の非摂動的解析前年度までは,データを逐次処理する時刻毎の解析を行っていたが,これらを累積させた非摂動的な解析を行った.それにより,事前分布の変更に起因する新しい効果が発見され,"(線型な)回帰問題の精度向上に必要な(関数に依存しない誤差項に対する)相殺項"は,事前分布の変更では供給できないことが判明した.(2)モデルの安定性を損なわない事前分布の変更"(線型なパラメータ化を行った)確率密度関数推定モデル"に対しては,推定精度向上に必要な事前分布の変更が,本来のモデルの安定性を損なってしまうことが判明した.(1),(2)により,事前分布変更理論の適用範囲は,ある種の条件を満たす非線型モデルであることが結論づけられた.この事は,従来の繰り込み理論の適用対象が,非線型モデルであることとも一致している.その種のモデルには計量テンソルの推測モデルが含まれるので,上述の2つの線型モデルに対しても,この推測モデルとの結合による推測性能向上の可能性が明らかになった.(3)任意の非線型モデルに適用可能な,一般的なバッチ・アルゴリズムの導出新たに導入されるパラメータ決定のための数値解法を,任意の非線型モデルに適用可能な形で導出した.これにより従来,緩和法以外では困難であった(ノンパラメトリックな)非線型モデルの数値解析が,(緩和法とは異なり)空間にメッシュを導入することなく可能になった.

平成16年度の新たな研究成果:平成15年度に得られた研究成果を"(非線型なパラメータ化を行った)確率密度関数推定モデル"に対して,実験的にも有効性を確認した.しかし,"回帰問題"や"(線型なパラメータ化を行った)確率密度関数推定モデル"に対しては,有効性が実験的に確認できない事が判明した.そこで,これらの原因を解明する為の研究を開始し,次の研究成果が得られた.(1)累積的な相互情報量の導出による,事前分布変更効果の非摂動的解析前年度までは,データを逐次処理する時刻毎の解析を行っていたが,これらを累積させた非摂動的な解析を行った.それにより,事前分布の変更に起因する新しい効果が発見され,"(線型な)回帰問題の精度向上に必要な(関数に依存しない誤差項に対する)相殺項"は,事前分布の変更では供給できないことが判明した.(2)モデルの安定性を損なわない事前分布の変更"(線型なパラメータ化を行った)確率密度関数推定モデル"に対しては,推定精度向上に必要な事前分布の変更が,本来のモデルの安定性を損なってしまうことが判明した.(1),(2)により,事前分布変更理論の適用範囲は,ある種の条件を満たす非線型モデルであることが結論づけられた.この事は,従来の繰り込み理論の適用対象が,非線型モデルであることとも一致している.その種のモデルには計量テンソルの推測モデルが含まれるので,上述の2つの線型モデルに対しても,この推測モデルとの結合による推測性能向上の可能性が明らかになった.(3)任意の非線型モデルに適用可能な,一般的なバッチ・アルゴリズムの導出新たに導入されるパラメータ決定のための数値解法を,任意の非線型モデルに適用可能な形で導出した.これにより従来,緩和法以外では困難であった(ノンパラメトリックな)非線型モデルの数値解析が,(緩和法とは異なり)空間にメッシュを導入することなく可能になった.