回路計算量理論に基づく視覚探索を実現するニューラルネットワークの計算原理の解明

本年度は視覚探索にかかわる論理関数の中でも特に、Conjunction Search 関数と呼ばれる論理関数（Conj関数）に着目し、Conj関数を計算するしきい値回路について、素子数がどれほど必要になるのかを理論的に調査することにより、Conj関数がしきい値回路にとってどれほど難しい情報処理タスクであるかについて評価を行った。その主結果として、ニューラルネットワークの理論モデルとしてしきい値回路を捉えた際に重要なパラメータとなる段数、エネルギー、重みについて、段数とエネルギーがともに準線形に制限されおり、かつ重みが準指数に制限されていた場合、Conj関数を計算するためにしきい値回路が必要とする素子数が指数的に大きいことを明らかにした。Conj関数は定数段数、線形エネルギーかつ定数重みのしきい値回路で計算可能であることから、この結果は段数とエネルギーに対する制限が、しきい値回路の計算能力に非常に大きな影響を与えることを示唆している。また、実際のニューラルネットワークでも段数、エネルギー、重みといったパラメータに対して、計算資源として制限があると考えられるため、Conj関数に類する情報処理タスクが、ニューラルネットワークにとって計算困難であることも示唆する結果と言える。加えて、この素子数が指数個必要となることを示す結果が、特定の条件下の下ではほぼ最適なものであることも、具体的にConj関数を計算するしきい値回路を設計することにより同時に示した。本研究の結果は、Conj関数を計算するしきい値回路だけでなく、行列の階数に関連するある条件を満たす論理関数であれば適用できるものとなっており、幅広い情報処理タスクについて、ニューラルネットワークが同様の困難性に直面している可能性を示唆する結果となっている。

本年度は視覚探索にかかわる論理関数の中でも特に、Conjunction Search 関数と呼ばれる論理関数（Conj関数）に着目し、Conj関数を計算するしきい値回路について、素子数がどれほど必要になるのかを理論的に調査することにより、Conj関数がしきい値回路にとってどれほど難しい情報処理タスクであるかについて評価を行った。その主結果として、ニューラルネットワークの理論モデルとしてしきい値回路を捉えた際に重要なパラメータとなる段数、エネルギー、重みについて、段数とエネルギーがともに準線形に制限されおり、かつ重みが準指数に制限されていた場合、Conj関数を計算するためにしきい値回路が必要とする素子数が指数的に大きいことを明らかにした。Conj関数は定数段数、線形エネルギーかつ定数重みのしきい値回路で計算可能であることから、この結果は段数とエネルギーに対する制限が、しきい値回路の計算能力に非常に大きな影響を与えることを示唆している。また、実際のニューラルネットワークでも段数、エネルギー、重みといったパラメータに対して、計算資源として制限があると考えられるため、Conj関数に類する情報処理タスクが、ニューラルネットワークにとって計算困難であることも示唆する結果と言える。加えて、この素子数が指数個必要となることを示す結果が、特定の条件下の下ではほぼ最適なものであることも、具体的にConj関数を計算するしきい値回路を設計することにより同時に示した。本研究の結果は、Conj関数を計算するしきい値回路だけでなく、行列の階数に関連するある条件を満たす論理関数であれば適用できるものとなっており、幅広い情報処理タスクについて、ニューラルネットワークが同様の困難性に直面している可能性を示唆する結果となっている。