ニューラルネットの収束能力と汎化能力に関する研究

本研究では階層型ニューラルネットの収束特性を解析するために,訓練データの正規化が学習収束にどのように影響するかを検討し,平均がゼロとなるように正規化した場合,著者らが先に提案した初期値設定法の中間層に対する初期値設定指針を自然に満たすため,初期値設定手順が簡略化されることを明らかにした.さらに,この正規化手順は学習終了後のネットの中間層荷重に簡単に埋め込むことができるため,認識対象データの正規化は不要となることを示した.アヤメ分類問題やMONK's分類問題,ソナー識別問題に対するシミュレーションの結果,提案法による場合,平均ゼロの一様乱数で荷重を初期化する通常の設定法に比べて,良好な収束結果が得られることを確認した.さらに,上述の初期値設定や正規化がネットの汎化能力に及ぼす影響についても考察し,両者を併用したときに最も良好な結果が得られることも確認した.正規化や特徴抽出などの前処理過程を埋め込んだ多層ネットで時系列信号を識別させる方法について,複数のサブモジュールから構成されるモジュール構造ネットを用い,サブモジュール毎に最適な前処理を個別に埋め込む方法を提案した.そして,睡眠脳波信号に対する認識実験の結果,通常のように複数の信号を1つのネットで学習させたり,全ての信号に同一の前処理をした場合に比べて良好な認識結果が得られた.また,実際の睡眠脳波信号系列をオンライン提示することで,対象信号のセグメンテーションが可能となることを示した.以上による成果を簡単に利用できるようにC言語用のライブラリ形式で公開し,初心者でも容易に操作できるようGtk+を使ったGUI環境も作成した.

本研究では階層型ニューラルネットの収束特性を解析するために,訓練データの正規化が学習収束にどのように影響するかを検討し,平均がゼロとなるように正規化した場合,著者らが先に提案した初期値設定法の中間層に対する初期値設定指針を自然に満たすため,初期値設定手順が簡略化されることを明らかにした.さらに,この正規化手順は学習終了後のネットの中間層荷重に簡単に埋め込むことができるため,認識対象データの正規化は不要となることを示した.アヤメ分類問題やMONK's分類問題,ソナー識別問題に対するシミュレーションの結果,提案法による場合,平均ゼロの一様乱数で荷重を初期化する通常の設定法に比べて,良好な収束結果が得られることを確認した.さらに,上述の初期値設定や正規化がネットの汎化能力に及ぼす影響についても考察し,両者を併用したときに最も良好な結果が得られることも確認した.正規化や特徴抽出などの前処理過程を埋め込んだ多層ネットで時系列信号を識別させる方法について,複数のサブモジュールから構成されるモジュール構造ネットを用い,サブモジュール毎に最適な前処理を個別に埋め込む方法を提案した.そして,睡眠脳波信号に対する認識実験の結果,通常のように複数の信号を1つのネットで学習させたり,全ての信号に同一の前処理をした場合に比べて良好な認識結果が得られた.また,実際の睡眠脳波信号系列をオンライン提示することで,対象信号のセグメンテーションが可能となることを示した.以上による成果を簡単に利用できるようにC言語用のライブラリ形式で公開し,初心者でも容易に操作できるようGtk+を使ったGUI環境も作成した.