非線形多自由度散逸力学系の統計力学と神経回路網理論

非线性多自由度耗散动力系统统计力学与神经网络理论

• 批准号: 05836009
• 负责人: 椎野 正寿
• 金额: $ 1.28万
• 依托单位: Tokyo Institute of Technology
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for General Scientific Research (C)
• 财政年份: 1993
• 资助国家: 日本
• 起止时间: 1993 至 1994
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-05836009/
• 关键词: アナログニューラルネット; SCSNA; 非単調伝達関数; スーパーリトリーバル相; 0-1型伝達関数; マックスウェル則; 局所場分布; 記憶容量増大

ニューロンの入出力関係を表わす伝達関数で特徴づけられるアナログニューラルネットの連想記憶モデルは、ニューロン数N→∞の極限で、記憶容量等の静的性質や動的特性を調べる場合、広い意味の統計力学的アプローチが要求される。特に伝達関数が非単調であるとすると相互作用が対称であってもリヤプノフ関数が存在しないことになり、従来の、すなわち狭義の統計力学の手法は用いることができない。そのような場合のニューラルネットの記憶容量を解析する目的で独自に開発したシグナルノイズ解析(SCSNA)の方法は、レプリカ理論とは全く別のコンセプトに基づくもので、ニューロンの局所場中に現れるノイズに対してくり込みを行なうことにより局所場をシグナルとノイズとにシステマティックに分離してリトリーバル相を記述するオーダーパラメータ方程式を導出するものである。くり込みにより現れる「出力比例項」のため、急激な下降部分を有する非単調伝達関数に対しては「マックスウェル則」の作用によりノイズが凝縮して誤差のない完全想起の可能になるスーパーリトリーバル相が出現することがわかり、その性質や出現の条件等の詳しい解析を行なうことができた。その結果、伝達関数が奇関数である場合に限らず、正値性の0-1型をとる場合にもスーパーリトリーバル相が存在可能であることが判明した。その他、SCSNAを振動子ニューラルネットや競合性のあるニューラルネットの場合に適用して記憶容量の解析を行なうことのできることや、伝達関数の非単調性を増大させると、動的な現象すなわち周期振動や非周期振動が現れてバラエティーに富んだ情報処理の可能性がもたらされることもわかった。

The relationship between input and output of the memory is expressed in terms of the number of inputs, the number of inputs, the The number of relations between special and non-uniform, the interaction between special and non-uniform, the existence of special and non-uniform, the interaction between special and non-uniform, the interaction between special and non-uniform, the interaction between special and non-uniform. The purpose of analyzing the memory capacity of a computer is to develop a method for analyzing the memory capacity of a computer (SCSNA) independently, to develop a theory for analyzing the memory capacity of a computer (SCSNA) independently, and to analyze the memory capacity of a computer (SCSNA) independently. The first step is to create a new environment. For example, if the "output proportion term" is present, the rapid excitation part is present, the non-uniform adjustment part is present, and the "output proportion term" is present. If the "output proportion term" is present, the non-uniform adjustment part is present. If the "output proportion term" is present, the error part is present. If the "output proportion term" is present, the non-uniform adjustment part is present. If the error part is present. If the non-uniform adjustment part is present, the non-uniform adjustment part is present. The result is that the number of connections is odd, the number of connections is positive, the number of connections is 0-1, and the number of connections is 0-1. In addition, SCSNA is applicable to the analysis of memory capacity, periodic vibration, non-periodic vibration, and the possibility of rich information processing.

项目成果

M.Shiino: "Self-consistent signal-to-noise analysis of the statistical behavior of analog neural networks and enhancement of the storage capacity" Phys.Rev.E. 48. 867-897 (1993)

M.Shiino：“模拟神经网络统计行为的自洽信噪比分析和存储容量的增强”Phys.Rev.E。

M.Shiino: "Onset of“super retrieval phase"and enhancement of the storage capacity in neural networks of nonmonotonic neurons" J.Phys.A Math.Gen.26. 831-841 (1993)

M.Shiino：“非单调神经元神经网络中“超级检索阶段”的开始和存储容量的增强”J.Phys.A Math.Gen.26.831-841（1993）

M.Shiino: "Self-consistent signal-to-noise analysis of analog neural networks with nonmonotonic transfer functions and enhancement of the storage capacity" IJCNN 93-NAGOYA. 3. 2555-2558 (1993)

M.Shiino：“具有非单调传递函数的模拟神经网络的自洽信噪比分析和存储容量的增强”IJCNN 93-NAGOYA。