ノンパラメトリック・モデルに於けるオンライン知識情報処理の最適化

非参数模型中在线知识信息处理的优化

• 批准号: 15700191
• 负责人: 相田 敏明
• 金额: $ 1.28万
• 依托单位: Okayama University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Young Scientists (B)
• 财政年份: 2003
• 资助国家: 日本
• 起止时间: 2003 至 2004
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-15700191/
• 关键词: 統計的推測; ベイズ推定; 統計力学; 場の理論; 繰り込み群; ノンパラメトリック; 予測; 非摂動効果

平成16年度の新たな研究成果:平成15年度に得られた研究成果を"(非線型なパラメータ化を行った)確率密度関数推定モデル"に対して,実験的にも有効性を確認した.しかし,"回帰問題"や"(線型なパラメータ化を行った)確率密度関数推定モデル"に対しては,有効性が実験的に確認できない事が判明した.そこで,これらの原因を解明する為の研究を開始し,次の研究成果が得られた.(1)累積的な相互情報量の導出による,事前分布変更効果の非摂動的解析前年度までは,データを逐次処理する時刻毎の解析を行っていたが,これらを累積させた非摂動的な解析を行った.それにより,事前分布の変更に起因する新しい効果が発見され,"(線型な)回帰問題の精度向上に必要な(関数に依存しない誤差項に対する)相殺項"は,事前分布の変更では供給できないことが判明した.(2)モデルの安定性を損なわない事前分布の変更"(線型なパラメータ化を行った)確率密度関数推定モデル"に対しては,推定精度向上に必要な事前分布の変更が,本来のモデルの安定性を損なってしまうことが判明した.(1),(2)により,事前分布変更理論の適用範囲は,ある種の条件を満たす非線型モデルであることが結論づけられた.この事は,従来の繰り込み理論の適用対象が,非線型モデルであることとも一致している.その種のモデルには計量テンソルの推測モデルが含まれるので,上述の2つの線型モデルに対しても,この推測モデルとの結合による推測性能向上の可能性が明らかになった.(3)任意の非線型モデルに適用可能な,一般的なバッチ・アルゴリズムの導出新たに導入されるパラメータ決定のための数値解法を,任意の非線型モデルに適用可能な形で導出した.これにより従来,緩和法以外では困難であった(ノンパラメトリックな)非線型モデルの数値解析が,(緩和法とは異なり)空間にメッシュを導入することなく可能になった.

Pp.47-53 16 year の new た な research results: pp.47-53 15 year に must ら れ た research を "(linear な パ ラ メ ー タ change line を っ た) number of probability density masato presumption モ デ ル" に し seaborne て, be the 験 に も have sharper sex を confirm し た. し か し, "back to 帰 problem" や "(linear な パ ラ メ ー タ change line を っ た) of probability density masato several constructive モ デ ル" に polices し て は, have sharper sex が be 験 に confirm で き な い matter が.at し た. そ こ で, こ れ ら の reason を interpret す る を for の research started し, time の research が must ら れ た. (1) the cumulative な mutual intelligence derived の に よ る, prior distribution - more sharper fruit の year before that, dynamic ま で は, デ ー タ を successive 処 Richard す る moment in their analytical を の っ て い た が, こ れ ら を cumulative さ せ た not line, dynamic analytical を な っ た. そ れ に よ り, prior distribution の - cause more に す る new し い unseen fruit が 発 see さ れ, "(linear な) upward 帰 problem の precision に necessary な (masato に dependent し な い error term に す seaborne る) slay item" は, prior distribution の - more で は supply で き な い こ と が.at し た . (2) モ デ ル の stability を loss な わ な い prior distribution の - more "(linear な パ ラ メ ー タ change line を っ た) number of probability density masato presumption モ デ ル" に し seaborne て は, presumption of precision distribution の に な necessary advance upward - more が, originally の モ デ ル の stability を loss な っ て し ま う こ と が.at し た. (1), (2) に よ り, distribution - more in advance Theory の applicable van 囲 は, あ る の condition を against た す of linear モ デ ル で あ る こ と が conclusion づ け ら れ た. こ の は, 従 to の Qiao り 込 の applicable as が seaborne み theory, linear モ デ ル で あ る こ と と も consistent し て い る. そ の kind の モ デ ル に は metering テ ン ソ ル の speculation モ デ ル が containing ま れ る の で, the above 2 つ の の linear モ デ ル に し seaborne て も, こ の speculation モ デ ル と の combining に よ る speculated that performance の upward possibility が Ming ら か に な っ た. (3) any の of linear モ デ ル に may apply な, general な バ ッ チ · ア ル ゴ リ ズ ム の export new た に import さ れ る パ ラ メ ー タ decided の た め の を the numerical method, the arbitrary の of linear モ デ ル に may apply な form で し derived た. こ れ に よ り 従 to ease method outside で は difficult で あ っ た (ノ ン パ ラ メ ト リ ッ ク な) of linear モ デ ル の analytical が, the numerical method (ease と は different な り) space に メ ッ シ ュ を import す る こ と な く may に な っ た.

项目成果

Modified Bayesian statistical inference and renormalization group

修正贝叶斯统计推断和重正化组

• 发表时间: 2003
• 期刊: Proc. of 2003 Joint Workshop of Hayashibara Foundation and SMAPIP -Physics and Information-
• 作者: T.Aida;相田 敏明;T.Aida
• 通讯作者: T.Aida

ノンパラメトリックモデルとベイズ推定-確率密度関数推定問題を例として-

非参数模型与贝叶斯估计——以概率密度函数估计问题为例——

• 发表时间: 2004
• 期刊: 人工知能学会誌 Vol.19,No.6
• 作者: T.Aida;相田 敏明
• 通讯作者: 相田 敏明

Renormalization Group in Bayesian Statistical Inference

贝叶斯统计推断中的重整化群

• 发表时间: 2005
• 期刊: Proc. of Int.Conf. on Statistical Physics of Disordered Systems and its Applications (SPDSA2004) (印刷中)
• 作者: T.Aida