ニューラルネットワークの学習を通した低自由度構造の獲得

点击翻译按钮获取中文摘要

本研究の目的は、ある種の最適化の結果として、パラメータ変化に対する大自由度システムの内部状態変化が低次元空間へ拘束されることを明らかにした、申請者のこれまでの研究を拡張することにある。本年度は前年度に引き続き、遺伝子制御ネットワークモデルにおける低自由度構造の獲得とその進化（学習）における役割について調べた。遺伝子制御ネットワークモデルは、外部入力を受け取り、それに応じて内部状態が変化した結果として適切なターゲット出力を行うという、一般的なニューラルネットワークと同様の情報処理構造を有している。前年度の研究において、遺伝子制御ネットワークが低自由度構造を獲得することを明らかにした。そこで本年度は、進化的に獲得された低自由度構造が、新たな環境における進化の方向性にどのような影響を及ぼすかについての解析をおこなった。研究の結果、このような進化（学習）においては、あらかじめ形成された低自由度構造の方向に沿ってシステムの内部状態が変化しやすいことがわかった。この時、システムの低自由度構造は進化を通して変化せず、新たな環境に対し速やかに適応することがわかった。これは、低自由度構造の存在が新たな環境における進化を加速する性質を持っていることを示唆する。一方で、新規の低自由度構造を獲得するのにはある種の困難が伴うことがわかった。本年度の研究で明らかになったのは、タスクを実現するために進化することと、システムの中に低自由度構造を獲得することでは、後者のほうが困難である可能性である。つまり、万能に転移学習できる（事前学習によって新たなタスクの学習が明らかに早くなるような）システムがあるとしたら、それは行いたいタスクよりもより広い問題を解けるように進化（学習）したシステムでなければならないと推測される。