長期記憶を導入したニューラルネットモデルの提案と動的環境におけるロバスト性の検証

提出一种结合长期记忆的神经网络模型并验证动态环境中的鲁棒性

• 批准号: 14780285
• 负责人: 小澤 誠一
• 金额: $ 1.92万
• 依托单位: Kobe University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Young Scientists (B)
• 财政年份: 2002
• 资助国家: 日本
• 起止时间: 2002 至 2003
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-14780285/
• 关键词: 動的環境; ニューラルネット; 追加学習; 生涯学習; 長期記憶; 知識抽出; 教師あり学習; 強化学習; メモリベース学習

ダイナミックに変化する環境の下では,過去に得た知識が常に有効であるとは限らず,環境に適応するため絶えず修正を要求される.しかし,同じ環境が将来において再び現れるようなケースでは,過去に獲得したすべての知識を修正するのは必ずしも効率的とはいえない.つまり,ある時点で通用しなくなった知識であっても,長期的な記憶として保存し,その知識が有用となる環境が再び現れたときに想起・利用できるようなメカニズムをもつことが望ましい.また,学習期間に終わりのないlife-long学習としての性質をもつには,知識を効率よくメモリに蓄積できなければならない.本研究では,上記のような機能を有するニューラルネットモデルを提案した.このモデルは,(1)入出力関係を学習するニューラルネット部,(2)ニューラルネット部で抽出された知識を蓄える連想バッファ,(3)連想バッファにある知識のうち必要なものを長期的に保持するための長期記憶,(4)環境の変動を検知する検知部の4つのモジュールで構成される.平成14年度において提案したモデルでは,ロバストな環境変動の検知を行うためのメカニズムと高速な環境への適用を実現するための連想メカニズムを開発し,この機能を実装した.複数の異なる一次元関数が順次移り変わっていく単純な動的環境の下で提案モデルの適応能力をシミュレーション実験で調べた.その結果,提案したモデルは環境変動を正確に検知し,過去に経験した環境の知識を活かして,高速に環境に追従できることを確認した.また,動的環境の下であっても追加学習を安定に行えることを示した.平成15年度では,移り変わっていく個々の環境に特有の知識と不変な知識を区別して,共有知識を抽出・利用する知識移転のメカニズムを付加した.シミュレーション実験を通して,この知識転移の機能が正しく機能し,さらに高速な環境適応が可能となることを確認した.

In the past, we have learned that there are restrictions on environmental protection, and that there is a requirement for the amendment of the environmental protection system. In the past, we have obtained the knowledge to correct the rate of compulsory health in the past. At some point in time, there is a lot of information about knowledge, long-term records are saved, and knowledge is useful in the environment. I would like to make use of the information to help you. During the period of study, you will learn more about life-long. You will learn more about sex, and you will know that the rate of your study will increase. In this study, we are able to make a proposal for the first time in this study. The following is necessary: (1) enter the information system, (1) enter the training department, (2) draw out knowledge storage, (3) think about the necessary long-term long-term records, and (4) maintain long-term long-term records of the environment. In Pingcheng, the proposal for environmental protection in the 14th year has not been completed, and the environmental activities have not been completed. The high-speed environmental protection has been implemented. In the context of multiple data transfer in one dimension, there are significant changes in the environment in which the proposal is proposed. According to the results of the test, the proposal verifies that the environmental activity is correct, that the environmental activity is known in the past, and that the high-speed environmental monitoring system is required to confirm the environmental impact. Under the circumstances of the movement, there will be additional training programs for the stability and stability of the company. In the 15th year of Pingcheng, there was a significant difference in the unique knowledge of the environment, and the common knowledge was drawn out by using the knowledge of the two countries. It is necessary to ensure that the knowledge transfer mechanism is able to correct the mechanical capacity, and that the high-speed environment may be used to confirm the situation.

项目成果

白神 那央人: "記憶メカニズムを導入した階層型ニューラルネットによる強化学習"計測自動制御学会論文集. 第39巻・第12号. 323-328 (2003)

Naoto Shirakami：“使用包含记忆机制的分层神经网络的强化学习”，仪器与控制工程师协会论文集，第 39 卷，第 12 期。323-328 (2003)。

Kenji Tsumori: "Incremental Learning in Dynamic Environments Using Neural Network with Long-term Memory"Prof.of the International Joint Conference on Neural Networks 2003 (IJCNN2003). (印刷中). (2003)

Kenji Tsumori：“使用具有长期记忆的神经网络在动态环境中进行增量学习”，2003 年国际神经网络联合会议教授（IJCNN2003）（2003 年出版）。

Seiichi Ozawa: "A Memory-Based Learning Approach in Neural Networks Under Dynamic Environments"Proc.of the Third Int.Symposium on Human and Artificial Intelligence Systems (HART2002). 402-405 (2002)

Seiichi Ozawa：“动态环境下神经网络中基于记忆的学习方法”Proc.of the Third Int.Symposium on Human and Artificial Intelligence Systems (HART2002)。

Seiichi Ozawa: "Reinforcement learning using RBF networks with memory mechanism"Knowledge-Based Intelligent Information and Engineering Systems, LNAI, Springer-Verlag. 1149-1156 (2003)

Seiichi Ozawa：“使用具有记忆机制的 RBF 网络进行强化学习”基于知识的智能信息和工程系统，LNAI，Springer-Verlag。

Kenji Tsumori: "Incremental Learning in Dynamic Environments Using Neural Network with Long-term Memory"Proc.of IEEE/INNS Int.Conf.on Neural Networks 2003. 2583-2588 (2003)

Kenji Tsumori：“使用具有长期记忆的神经网络在动态环境中进行增量学习”Proc.of IEEE/INNS Int.Conf.on Neural Networks 2003. 2583-2588 (2003)