ブラックボックス微分方程式モデルに対する保存則抽出手法とネットワーク解析への応用

2022年度は，主に，力学系に対する観測データから，その力学系を記述する微分方程式と，その力学系がもつ保存則を学習する深層学習モデルの開発に取り組んだ．開発した手法では，モデル化対象とする力学系に対してモデルまたは数値計算スキームが与えられると仮定する．そして，系がもつであろう保存則をニューラルネットワークでモデル化し，それらの保存則が成り立つようにモデルを修正する．このような修正には射影法と呼ばれる方法を用いることが一般的であるが，射影法を用いてしまうとNewton法のような反復解法が必要となる．すると，ニューラルネットワークの学習に用いる誤差逆伝播法の計算量が膨大となってしまい，学習が困難になる．そこで，提案手法では，通常の射影法を用いる代わりにベクトル場の射影を行う．こちらは単純なベクトルの直交化で実装することが可能であり，反復法を必要としない．本手法は，データから保存則を取り出すだけでなく，既存のシミュレーションコードに対して，発見した保存則を付加することができ，モデリングだけでなくシミュレーションの改善にも利用可能である．その他，これまでに開発してきた，ニューラルネットワークを用いたハミルトン方程式のモデリング手法に対する変分的積分器の開発などにも取り組んだ．ハミルトン方程式のモデリングの一つの応用は物理シミュレーションであるが，物理シミュレーションのためには，微分方程式の離散化が必要である．しかし，離散化の際，通常の数値計算手法を用いると，エネルギー保存則などが成り立たなくなってしまうことが知られている．これを回避する方法としては，変分的積分器などの構造保存型数値解法が知られている．2022年度の研究では，そのような数値計算手法がニューラルネットワークモデルと両立することを示した．

2022年度は，主に，力学系に対する観測データから，その力学系を記述する微分方程式と，その力学系がもつ保存則を学習する深層学習モデルの開発に取り組んだ．開発した手法では，モデル化対象とする力学系に対してモデルまたは数値計算スキームが与えられると仮定する．そして，系がもつであろう保存則をニューラルネットワークでモデル化し，それらの保存則が成り立つようにモデルを修正する．このような修正には射影法と呼ばれる方法を用いることが一般的であるが，射影法を用いてしまうとNewton法のような反復解法が必要となる．すると，ニューラルネットワークの学習に用いる誤差逆伝播法の計算量が膨大となってしまい，学習が困難になる．そこで，提案手法では，通常の射影法を用いる代わりにベクトル場の射影を行う．こちらは単純なベクトルの直交化で実装することが可能であり，反復法を必要としない．本手法は，データから保存則を取り出すだけでなく，既存のシミュレーションコードに対して，発見した保存則を付加することができ，モデリングだけでなくシミュレーションの改善にも利用可能である．その他，これまでに開発してきた，ニューラルネットワークを用いたハミルトン方程式のモデリング手法に対する変分的積分器の開発などにも取り組んだ．ハミルトン方程式のモデリングの一つの応用は物理シミュレーションであるが，物理シミュレーションのためには，微分方程式の離散化が必要である．しかし，離散化の際，通常の数値計算手法を用いると，エネルギー保存則などが成り立たなくなってしまうことが知られている．これを回避する方法としては，変分的積分器などの構造保存型数値解法が知られている．2022年度の研究では，そのような数値計算手法がニューラルネットワークモデルと両立することを示した．