モジュール型神経回路網モデルの動的性質に関する定量的評価

模块化神经网络模型动态特性的定量评估

基本信息

批准号：
05780311
负责人：
小澤誠一
金额：
$ 0.58万
依托单位：
Osaka Kyoiku University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Encouragement of Young Scientists (A)
财政年份：
1993
资助国家：
日本
起止时间：
1993 至无数据
项目状态：
已结题

来源：
https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-05780311/
关键词：
神経回路網モジュール構造連想記憶

项目摘要

モジュール型神経回路網モデルとして、対称結合をもつ相互結合型神経回路網を複数個結合したものを取り上げた。このようなモデルにおける各モジュールの活性ダイナミクスとモジュール間の結合ダイナミクスは、ネットワーク全体のエネルギー関数を定義することで与えらる。本年度の研究は、このようなモデルの連想記憶能力をシミュレーション実験で定量的に評価することを目的とした。記銘するパターンとしては、各ビットが2値(±1)であるランダムベクトルを用い、総ニューロン数に対するパターン数(記憶率:r)で評価した。その結果、モジュール構造をもたない従来のホップフィールドネットに比べ、モジュール数が多すぎなければ、飛躍的に連想能力が向上することがわかった。例えば、総ニューロン数が500、モジュール数が2のとき、r=0.5で限界方向余弦d_C≒0.5、r=1.0でd_C≒0.7となった(ホップフィールドネットの場合、r≒0.2でd_C≒1.0となる)。さらに、与えられた問題に対して最適なモジュール数が存在し、それを越えると急速に連想能力が劣化する現象が見られた。この原因についての詳しい考察は、今後の課題とする。また、ここで用いたモジュール型神経回路網には、モジュールの状態間に多対多の関係がある場合でもうまく動作するような機能を付加している。これは、2つのモジュール間の相互作用を決定する階層型ネットワーク(インターネット)に両モジュールの状態を入力することで実現している。本研究では、この機能がうまく動作することも、多対多関係をもつ文字パターン対を使った実験により確認している。

作为一个模块化神经网络模型，我们结合了具有对称连接的多个相互连接的神经网络。通过定义整个网络的能量函数，给出了每个模块的活性动力学以及模块之间的耦合动力学。今年的研究旨在通过模拟实验定量评估此类模型的关联记忆能力。作为一个要注意的模式，根据神经元总数的模式数量（回忆率：R），使用并评估每个位为二进制的随机向量（±1）。结果，发现如果没有太多模块，与没有模块化结构的常规Hopfield网络相比，关联能力将大大提高。例如，当神经元的总数为500并且模块的数量为2时，r = 0.5给出了一个极限方向余弦d_c≈0.5，r = 1.0给出D_C≈0.7（在Hopfield Net的情况下，R≈0.2给出D_C≈1.0）。此外，存在一种现象，其中对于给定问题存在最佳数量模块，当相关能力超过它时，它会迅速恶化。对此原因的详细讨论将是未来的问题。此外，此处使用的模块化神经网络已被添加到该函数中，即使模块状态之间存在许多与人的关系，该功能也可以很好地工作。这是通过将两个模块的状态输入到确定两个模块之间相互作用的分层网络（Internet）中来实现的。这项研究还证实，通过使用具有多到多关系的角色模式对实验，该功能很好地奏效。