多層ニューラルネットによる情報集約機能の基礎的研究

利用多层神经网络的信息聚合函数基础研究

• 批准号: 04246218
• 负责人: 鳥脇 純一郎
• 金额: $ 0.96万
• 依托单位: Nagoya University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research on Priority Areas
• 财政年份: 1992
• 资助国家: 日本
• 起止时间: 1992 至 无数据
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-04246218/
• 关键词: 多層ニューラルネット; ベクトル写像; 能力評価; 全曲率

本研究は多層ニューラネネットワーク(Multilayer Neural Network MNNと略記)による情報集約機能に関連する諸性質を解明し、画像処理への応用の可能性を明らかにすることを目指した。本年度は、画像処理におけるニューラルネっト応用の現状を調査し、そらに、MNNをベクトル空間の写像と見るとこ実現できる写像全体の性質を、次の手順で調ベた。(1)MNNの構造(素子の特性、素子数、層数)を固定して、パラメータ(層間結合の重み、素子のしきい値)を適当な値に設定し、入力層の出力値を変化させたときに出力層に現れる超曲面(多様体)を考える。(2)パラメータを変えて得られる超曲面の族は、この構造のMNNが実現し得る写像の集合を表す意味で、ある構造のMNN全体の能力を表すと見なす。(3)超曲面の族を特徴付ける特徴量を導入してMNNの構成の比較を行う。特徴量として、さしあたり、全曲率を用い、各超曲面の全曲率を族の全体にわたって集計したときの統計量(平均値、分散)に注目する。(4)さらに、MNNの構造を変えたときの上記の特徴量の変化を調ベる。これを2層,3層,4層の各MNNに対して適用し、以下の結果を得た。(a)各層ユニット数の増加に対して全曲率の平均はほぼ直線的に増加する。(b)層数の増加に対しても、全曲率の平均は同様に増加の傾向を示す。(c)4層のMNNにおいて、中間層のユニット数はそれぞれ異なっているが、総パラメータ数が等しくなる構成を比較したところ、学習時の計算量の点からは同等であるが、全曲率の平均および分散は入力層に近い方の中間層素子数が大きいMNNの方がより高い値を示した。すなわち、MNNの能力の点からは入力層に近い層のユニット数を大きく取る方が有利である。全曲率に加えて、目的に応じて他の特徴量を組み合わせることにより、MNNの能力のさらに詳細な解析が可能となる。

This study は Multilayer ニ ュ ー ラ ネ ネ ッ ト ワ ー ク (Multilayer Neural Network MNN と jot) に よ る intelligence intensive function に masato even す る the nature を interpret し, portrait 処 へ の 応 possibility with の を Ming ら か に す る こ と を refers し た. This year は, portrait 処 に お け る ニ ュ ー ラ ル ネ っ ト 応 with の investigation し を, そ ら に, MNN を ベ ク ト ル space の write like と see る と こ be presently で き る write like all nature の を, times の hand arranges で ベ た. (1) the MNN の structure (element child の properties, element number, layer number) を fixed し て, パ ラ メ ー タ (interlayer combination の み, plain child の し き い nt) を な appropriate numerical に set し, layer の into force output numerical を variations change さ せ た と き に output layer に れ る hypersurface (more than others) を exam え る. (2) パ ラ メ ー タ を - え て have ら れ る hypersurface の は, こ の tectonic の MNN が be し now have to write る を table す mean で, like の collections あ る tectonic の MNN all の ability を table す と see な す. (3) The を characteristics of the <s:1> family of hypersurfaces are combined with ける characteristic quantities を and imported into <s:1> てMNN <e:1> to form <s:1> comparison を row う. Amount, 徴 と し て, さ し あ た り curvature, whole を い, the hypersurface の total curvature を clan の all に わ た っ て disaggregate し た と き の statistics (on average numerical dispersion) に attention す る. (4)さらに, MNN <s:1> construct を change えたと えたと <s:1> <s:1>, mark the <s:1> characteristic quantity <e:1> change を tone ベる. <s:1> れを layer 2, layer 3, layer 4 <s:1> each MNNに applies to <s:1> て, the following <s:1> results を get た. (a) The に increase of に in the ユニット number of each layer against the <s:1> total curvature <s:1> average ほぼ ほぼ straight line is する. (b) The <s:1> increase in the number of layers に shows a を tendency to て て, and the <s:1> average <s:1> of full curvature に is the same as に. (c) 4 layer の MNN に お い て, middle の ユ ニ ッ ト number は そ れ ぞ れ different な っ て い る が, 総 パ ラ メ ー タ number が し く な る constitute を compare し た と こ ろ, when studying の computation の point か ら は equal で あ る が, total average curvature の お よ び scattered は layer into force に nearly い party の が intermediary element child number big き い MNN の party が よ り い numerical high Youdaoplaceholder0 indicates た. す な わ ち, MNN の ability の point か ら は に nearly い layer into force の ユ ニ ッ を ト number big き く take る が で benefit あ る. Total curvature に plus え て, purpose に 応 じ て he の 徴 quantity を group み close わ せ る こ と に よ り, MNN の ability の さ ら に な detailed resolution が may と な る.

项目成果

鳥脇 純一郎,: "ニューラルネットによる画像パターン認識" 応用物理. 62. 18-22 (1992)

Junichiro Toriwaki，：“使用神经网络进行图像模式识别”应用物理学 62. 18-22 (1992)。