超並列ハードウェア化に適したニューラルネットワーク・トポロジと問題の冗長分散表現

点击翻译按钮获取中文摘要

本研究では、並列処理の有力なパラダイムの一つであるニューラルネットワークの集積化を現実的なものとするために、以下の方針で研究を行なってきた。まず、ニューラルネットワークのアーキテクチャとして、2つの独立素子集合に分割可能な結線トポロジーを用いることにより、完全グラフ的配線を避ける。このようなトポロジーはグラフ理論の分野で二部グラフ構造と呼ばれているものである。また問題表現方式の冗長分散化によって、素子、配線の欠陥を許容し、歩留まりを向上する。ニューラルネットワークのハードウェア化に関して多くの研究が行なわれているが、大規模な相互結合型ニューラルネットワークをハードウェア化することは非常に困難な状況にあるといえる。また、相互結合型ニューラルネットワークの計算手法自体にも多くの問題があり、現状では十分な能力を持っているとはいい難い。本研究では、相互結合型ニューラルネットワークのハードウェア化を支援し、またネットワーク自体の能力を向上させることを目的として、2部グラフ構造のネットワーク・トポロジーを用いた。まず、ハードウェア化に関する問題と相互結合型ニューラルネットワークの計算方法が持つ問題点を指摘し、それらの多くを2部グラフ構造のネットワーク・トポロジーと新しく提案する学習アルゴリズムによって改善できることを示した。また、2部グラフ構造ボルツマンマシンを用いて連想記憶のシミュレーションを行ない、その学習能力と結合の障害に対する頑強性を検証した。