確率重みを有する神経回路網の結合学習に関する研究

概率权重神经网络连接学习研究

• 批准号: 09268237
• 负责人: 松山 泰男
• 金额: $ 0.77万
• 依托单位: Waseda University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research on Priority Areas
• 财政年份: 1997
• 资助国家: 日本
• 起止时间: 1997 至 无数据
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-09268237/
• 关键词: EMアルゴリズム; 一般化対数; 最尤推定; 確率重み; 神経回路網

研究成果は、次のような三つの項目として表される。(a)一般化されたEMアルゴリズムの構築一般化された分離情報量は対数の一般化クラスを与え、これに基づいてEMアルゴリズムを導出すると、従来のEMアルゴリズムを特別な場合として含む「確率重み付きEMアルゴリズム(WEM)」が得られた。そして、このアルゴリズムの導出に際して、フィッシャー情報量やフィッシャー・スコアーそしてクラメール・ラオの推定限界の一般化が得られた。これは、対数尤度の最大化を図っていた従来の最尤推定法そのものを拡張したことになっている。(b)混合エキスパート型神経回路網新たに得られたWEMアルゴリズムは一般化対数に基づくものであるが、近似を必要としない閉じた繰り返しアルゴリズムとしての計算が可能であることも分かった。この一般化対数はパラメータαをもち、単調増加関数族を構成している。そして、その特別な場合が従来の対数となっている。このパラメータαは学習行列の正定値性を調整することができ、その正定値性の限界付近で、高速学習性が実現されることが判明したWEM構造においては、順方向の入出力流にその逆方向の入出力流を組み合わせて一対の学習構造とすることができることが判明した。これは一つの学習的機能ブロックとして働くことができる。そしてこれらの機能ブロックを継続接続すると階層構造が実現でき、求心性と遠心性の両方の情報経路を生成できることが分かった。以上のように、今年度は新たな確率モデルの提案を行い、当初予想以上の高速学習性を得て今後の機能モデルの議論への道筋をつけることができた。

The results of the research are as follows: (a)Generalization of EM classification and construction of generalization of separation of information quantity pairs Generalization of EM classification and construction of generalization of separation of information quantity pairs Generalization of separation of information quantity and construction of generalization of separation of information quantity and construction of generalization of separation of information quantity and construction of generalization of separation of information quantity. The generalization of the estimation limit of the information quantity is obtained. The maximum of the number of pairs of pairs of pairs (b)A new type of neural network can be obtained by generalizing the number of nodes in the network, by approximating the number of nodes in the network, by calculating the number of nodes in the network. This generalized number is divided into two groups: one group is divided into two groups, the other group is divided into two groups, the other group is divided into three groups. For special occasions, the number of pairs. The positive definite value adjustment of the positive definite value adjustment of the positive definite value The function of learning is to learn from each other. The hierarchical structure of the system is realized, the centrality is calculated, and the information path is generated. This year, the new rate of accuracy of the proposal, the original thought of the above high-speed learning, the future of the function of the discussion of the road tendon, the new rate of accuracy of the proposal

项目成果

Yasuo MATSUYAMA: "The α-EM algorithm" Lecture Notes in Computer Science. 1240. 483-492 (1997)

Yasuo MATSUYAMA：“α-EM 算法”计算机科学讲义。1240. 483-492 (1997)

Yasuo MATSUYAMA et al.: "Prior probability weights and newral network learning" Proc. Int. Conf. Neutal Info. Processing. 1. 267-270 (1997)

Yasuo MATSUYAMA 等人：“先验概率权重和新网络学习”Proc。

Yasuo MATSUYAMA: "WEM algorithms and probabilistic learning" Proc.ISCIE Stochastic System Sympo.1. 1-12 (1997)

Yasuo MATSUYAMA：“WEM 算法和概率学习”Proc.ISCIE Stochastic System Sympo.1。

松山泰男: "自己組織化と外部知性との結合" 情報処理. 39. 37-42 (1998)

Yasuo Matsuyama：“耦合自组织和外部智能”信息处理 39. 37-42 (1998)。

Yasuo MATSUYAMA: "The weighted EM algorithm and block monitoring" Proc.Int.Conf.Neural Networks. 3. 1936-1941 (1997)

Yasuo MATSUYAMA：“加权 EM 算法和块监控”Proc.Int.Conf.Neural Networks。