非単調神経回路網における動的アトラクタの形成機構

筆者が提案した非単調神経回路網は,従来の神経回路モデルにはない多くの優れた性質をもち,近年大きな注目を集めている.昨年までの研究により,このモデルが動的パターンの記憶に適した力学的性質を備えていること,またその記憶が簡単な学習則で実現されるという非常に重要な事実が明らかになった.しかし,それらがどうして可能なのかについてはよくわかっていなかった.本研究では,動的パターンの記憶過程,すなわち動的アトラクタの形成機構を解明することを目的として,以下のような研究を行った.まず,離散的なパターン系列を記憶させた場合について,記憶後の系の力学的構造を,主に数値実験によって解析した.その結果,系の状態空間がいくつかの部分空間に分割されること,記憶した系列は,複数のアトラクティブな部分空間の共通部分に埋め込まれることなどがわかった.さらに,系の状態がある部分空間から他の部分空間へ遷移するメカニズムもほぼ理解することができた.次いで,連続的に変化する動的パターンを回路網に学習させる過程で,力学的構造がどのように変化するかを調べた.その結果,局所的なエネルギーを仮想的に考えると,アトランタの形成過程が非常に理解しやすいことがわかった.すなわち,系の現在状態とX学習信号Rの間の状態空間のエネルギーが学習によって低下し,Xの軌跡に沿って徐々にエネルギーの溝が掘られていく.同時にXからRへ向かう力が作用するため,溝の底には系列の進行方向に緩やかな流れが生成される.これにより,数回の学習の後には,学習信号の助けがなくても,自律的に学習した系列を再生することが可能になると考えられる.以上の大きな成果が得られたが,これを動的パターンの情報処理に応用することなどが今後の課題である.

筆者が提案した非単調神経回路網は,従来の神経回路モデルにはない多くの優れた性質をもち,近年大きな注目を集めている.昨年までの研究により,このモデルが動的パターンの記憶に適した力学的性質を備えていること,またその記憶が簡単な学習則で実現されるという非常に重要な事実が明らかになった.しかし,それらがどうして可能なのかについてはよくわかっていなかった.本研究では,動的パターンの記憶過程,すなわち動的アトラクタの形成機構を解明することを目的として,以下のような研究を行った.まず,離散的なパターン系列を記憶させた場合について,記憶後の系の力学的構造を,主に数値実験によって解析した.その結果,系の状態空間がいくつかの部分空間に分割されること,記憶した系列は,複数のアトラクティブな部分空間の共通部分に埋め込まれることなどがわかった.さらに,系の状態がある部分空間から他の部分空間へ遷移するメカニズムもほぼ理解することができた.次いで,連続的に変化する動的パターンを回路網に学習させる過程で,力学的構造がどのように変化するかを調べた.その結果,局所的なエネルギーを仮想的に考えると,アトランタの形成過程が非常に理解しやすいことがわかった.すなわち,系の現在状態とX学習信号Rの間の状態空間のエネルギーが学習によって低下し,Xの軌跡に沿って徐々にエネルギーの溝が掘られていく.同時にXからRへ向かう力が作用するため,溝の底には系列の進行方向に緩やかな流れが生成される.これにより,数回の学習の後には,学習信号の助けがなくても,自律的に学習した系列を再生することが可能になると考えられる.以上の大きな成果が得られたが,これを動的パターンの情報処理に応用することなどが今後の課題である.