反ヘブ学習によるニューラルネットの機能形成

ニューラルネットの学習モデルは、一般に、管理形の学習と非管理形のそれに大別することができる。後者に属する学習モデルに、ヘブ学習則と反ヘブ学習則がある。これらの非管理形の学習モデルにおいては、いずれも、結合加重の更新量は回路の局所的な情報のみに依存しており(局所学習則)、それ故実際の生体における神経回路モデルとして自然なものであると言える。しかし、理論的解析の困難さのために、十分その機能が明らかになっているとは言い難い。本研究の目的は、ヘブ学習則・反ヘブ学習則によってニューラルネットがどのような情報処理機能を形成するかを理論的に明らかにすることである。これによって、脳の高次機能形成のメカニズムを解明する手がかりが得られるのではないかと考えている。ニューラルネットの構造は、入力層と出力層からなる2層の回路で、入力層から出力層に前向きの結合を出力層のニューロンの間に相互結合を持つ。前向き結合についてはヘブ学習を、相互結合については反ヘブ学習を仮定し、それらによってニューラルネットがどのような機能を獲得するかについて、数学的な解析を行ってきた。その結果、学習アルゴリズムを少し変えたり、回路構造を変更したりすることによって、種々の情報処理機能(統計解析機能)、(1)主成分分析機能、(2)ノイズ除去フィルタ、(3)新寄性フィルタ、(4)信号分離機能(ブラインド信号分離)、(5)クラスタリング機能、が獲得されることが明らかになった。また、前向き結合のみをもつ2層のニューラルネットに対してヘブ学習・反ヘブ学習が働く場合についても考察した結果、空間的な意味でのフィルタ、(6)ハイパスあるいはロ-パスフィルタが形成されることが明らかになった。

ニューラルネットの学習モデルは、一般に、管理形の学習と非管理形のそれに大別することができる。後者に属する学習モデルに、ヘブ学習則と反ヘブ学習則がある。これらの非管理形の学習モデルにおいては、いずれも、結合加重の更新量は回路の局所的な情報のみに依存しており(局所学習則)、それ故実際の生体における神経回路モデルとして自然なものであると言える。しかし、理論的解析の困難さのために、十分その機能が明らかになっているとは言い難い。本研究の目的は、ヘブ学習則・反ヘブ学習則によってニューラルネットがどのような情報処理機能を形成するかを理論的に明らかにすることである。これによって、脳の高次機能形成のメカニズムを解明する手がかりが得られるのではないかと考えている。ニューラルネットの構造は、入力層と出力層からなる2層の回路で、入力層から出力層に前向きの結合を出力層のニューロンの間に相互結合を持つ。前向き結合についてはヘブ学習を、相互結合については反ヘブ学習を仮定し、それらによってニューラルネットがどのような機能を獲得するかについて、数学的な解析を行ってきた。その結果、学習アルゴリズムを少し変えたり、回路構造を変更したりすることによって、種々の情報処理機能(統計解析機能)、(1)主成分分析機能、(2)ノイズ除去フィルタ、(3)新寄性フィルタ、(4)信号分離機能(ブラインド信号分離)、(5)クラスタリング機能、が獲得されることが明らかになった。また、前向き結合のみをもつ2層のニューラルネットに対してヘブ学習・反ヘブ学習が働く場合についても考察した結果、空間的な意味でのフィルタ、(6)ハイパスあるいはロ-パスフィルタが形成されることが明らかになった。