反ヘブ学習によるニューラルネットの機能形成

通过反赫布学习形成神经网络函数

• 批准号: 08279234
• 负责人: 松岡 清利
• 金额: $ 0.45万
• 依托单位: Kyushu Institute of Technology
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research on Priority Areas
• 财政年份: 1996
• 资助国家: 日本
• 起止时间: 1996 至 无数据
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-08279234/
• 关键词: ヘブ学習; 反ヘブ学習; ニューラルネット; 主成分分析; 新寄性フィルタ; 信号分離; 非管理学習; 局所学習則

ニューラルネットの学習モデルは、一般に、管理形の学習と非管理形のそれに大別することができる。後者に属する学習モデルに、ヘブ学習則と反ヘブ学習則がある。これらの非管理形の学習モデルにおいては、いずれも、結合加重の更新量は回路の局所的な情報のみに依存しており(局所学習則)、それ故実際の生体における神経回路モデルとして自然なものであると言える。しかし、理論的解析の困難さのために、十分その機能が明らかになっているとは言い難い。本研究の目的は、ヘブ学習則・反ヘブ学習則によってニューラルネットがどのような情報処理機能を形成するかを理論的に明らかにすることである。これによって、脳の高次機能形成のメカニズムを解明する手がかりが得られるのではないかと考えている。ニューラルネットの構造は、入力層と出力層からなる2層の回路で、入力層から出力層に前向きの結合を出力層のニューロンの間に相互結合を持つ。前向き結合についてはヘブ学習を、相互結合については反ヘブ学習を仮定し、それらによってニューラルネットがどのような機能を獲得するかについて、数学的な解析を行ってきた。その結果、学習アルゴリズムを少し変えたり、回路構造を変更したりすることによって、種々の情報処理機能(統計解析機能)、(1)主成分分析機能、(2)ノイズ除去フィルタ、(3)新寄性フィルタ、(4)信号分離機能(ブラインド信号分離)、(5)クラスタリング機能、が獲得されることが明らかになった。また、前向き結合のみをもつ2層のニューラルネットに対してヘブ学習・反ヘブ学習が働く場合についても考察した結果、空間的な意味でのフィルタ、(6)ハイパスあるいはロ-パスフィルタが形成されることが明らかになった。

ニ ュ ー ラ ル ネ ッ ト の learning モ デ ル は, general に, management study の と non management の そ れ に comparing す る こ と が で き る. The latter に belongs to する learning モデ に に, ヘブ learning と, and anti-ヘ ブ learning がある. こ れ ら の of management form の learn モ デ ル に お い て は, い ず れ も, combined with compound の update quantity は loop の bureau な intelligence の み に dependent し て お り (bureau), そ れ so be interstate の raw body に お け る god 経 loop モ デ ル と し て natural な も の で あ る と said え る. The difficulty of the analysis of the theory is さ ために, ために, and the difficulty of the function is very そ. The function of が is ら, になって is ると, ると is ると. は の purpose, this study ヘ ブ learning it, ヘ ブ learning に よ っ て ニ ュ ー ラ ル ネ ッ ト が ど の よ う な intelligence 処 principle function を form す る か を theory に Ming ら か に す る こ と で あ る. こ れ に よ っ て, 脳 の higher functioning の メ カ ニ ズ ム を interpret す る hand が か り が have ら れ る の で は な い か と exam え て い る. ニ ュ ー ラ ル ネ ッ ト の tectonic は, と output layer into force か ら な る 2 layer の loop で, into the force か ら output layer に forward き の combining を output layer の ニ ュ ー ロ ン の に combination between を つ. Forward き combining に つ い て は ヘ ブ learning を, combined に つ い て は anti ヘ ブ learning を 仮 し, そ れ ら に よ っ て ニ ュ ー ラ ル ネ ッ ト が ど の よ う な function を get す る か に つ い line analytical を な っ て, math て き た. そ の results, learning ア ル ゴ リ ズ ム を し less - え た り, circuit structure を - more し た り す る こ と に よ っ て, kind of 々 の intelligence 処 function (statistical parsing function), (1) the function of principal component analysis, (2) ノ イ ズ remove フ ィ ル タ, (3) the new send フ ィ ル タ, (4) signal separation function (ブ ラ イ ン ド signal separation), (5) ク ラ ス Youdaoplaceholder0 グ グ function, が obtain される とが とが function ら ら になった. ま た, forward き の み を も つ layer 2 の ニ ュ ー ラ ル ネ ッ ト に し seaborne て ヘ ブ learning, anti ヘ ブ learning が 働 く occasions に つ い て も investigation し た results, space な mean で の フ ィ ル タ, (6) ハ イ パ ス あ る い は ロ - パ ス フ ィ ル タ が form さ れ る こ と が Ming ら か に な っ た.