ニューラルネットワークの計算能力評価に関する研究

神经网络计算能力评价研究

• 批准号: 07780313
• 负责人: 松本 哲也
• 金额: $ 0.64万
• 依托单位: Nagoya University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Encouragement of Young Scientists (A)
• 财政年份: 1995
• 资助国家: 日本
• 起止时间: 1995 至 无数据
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-07780313/
• 关键词: neural network; multilayer perceptron; generalization; geometrical property; mapping capability; curvature; model selection

ニューラルネットワークのパターン認識への応用において,その汎化能力,すなわち未学習パターンの識別能力を解析することは重要な課題である.ニューラルネットワークの持つ汎化能力はその計算能力,すなわち写像能力によって規定されていると考えられる.本研究は,層数・ユニット数を指定した具体的構成における階層型ニューラルネットワークの計算能力を解析することにより,汎化能力を評価する基礎を確立するものである.具体的には,多層パーセプトロンの写像能力を,その値域での幾何学的計量によって評価し,多層パーセプトロンの構成と写像能力の関係を,シミュレーション実験を通じて考察した.実験結果より,全曲率で評価した多層パーセプトロンの写像能力は層数・素子数に対して単調に増加し,入力層に近い層の方が遠い層に比べて,素子数の増加に対する写像能力の増加率が高いことを明らかにした.さらに,少数標本時,すなわち汎化の問題が顕著となる条件下において,データの理論的分布を仮定しえない場合における階層型ニューラルネットワークのパターン識別能力・汎化能力についての検討を行った.現実の医用画像データを用いて階層型ニューラルネットワークのパターン識別能力を測定し,対数尤度比に基づく2次分類器による実験結果との相違をROC曲線を用いて評価した.実験の結果,少数の標本しか有効でない場合には,階層型ニューラルネットワークの計算能力自体は,高い潜在能力を示すにも関わらず,有効な学習が行われない場合があることが判明した.汎化能力を高めるためには,データに細工する程度の処理では不十分であり,汎化能力を考慮した構成の検討.学習が不可欠である.しかし,現時点においては,一般的な汎化能力向上学習法は開発されておらず,計算量の面から見ても,少数標本に対しては,高い能力の階層型ニューラルネットワークの構成は難しいという結論が得られた.

An important issue is the analysis of the recognition ability of unlearned objects. The ability to maintain generalization and computational ability is the ability to write images, and the ability to maintain generalization and computational ability is required. This study establishes the basis for the evaluation of hierarchical computing power by specifying the number of layers. Specifically, the relationship between the composition and the ability to write images of multilayer structures, geometric measurements of all values, and the relationship between the composition and the ability to write images of multilayer structures were investigated. As a result, the image writing ability of multi-layer films increases with the increase of the number of layers and the number of pixels, and the image writing ability increases with the increase of the number of pixels. In addition, when a small number of Li, the problem of generalization is discussed under certain conditions, the theoretical distribution of data is determined, and the hierarchical type of data is discussed under certain conditions. Now we use the ROC curve to evaluate the recognition ability of the hierarchical classifier and the correlation between the two classifiers. As a result, there are a few cases in which hierarchical computing power is self-evident, and there are cases in which learning is performed. Generalization ability is high, and the degree of detail is not very high. Generalization ability is considered. Learning cannot be owed. In this paper, the general generalization ability upward learning method is developed, and the calculation quantity is changed, and a few examples are changed, and the hierarchical type of high generalization ability is changed, and the composition is difficult.

项目成果

松本哲也、三浦正義、鳥脇純一郎: "少数標本時における階層型ニューラルネットの汎化能力の実験的評価" Medical Imaging Technology. 14. (1996)

Tetsuya Matsumoto、Masayoshi Miura、Junichiro Toriwaki：“使用小样本时分层神经网络泛化能力的实验评估”医学成像技术 14。（1996）。