Basic research on interpretability and causality in modeling time-dependent phenomena

近年，データ駆動型のモデリングが多数提案されている．このようなモデリングによる科学的知見の抽出に向け，本研究では，現象に関する解釈性等に焦点をおき，それに関するモデリングについて，代数を取り入れたアプローチで取り組む．以下，現象が微分方程式等に従うと仮定し，方程式の一部が未知と考えるアプローチ（以下，A）と，方程式の大部分が未知と考えるアプローチ（以下，B）の二つに大別し，それぞれの成果を概説する．（A）三つの研究を進めた．まず，Physics-Informed Neural Networkという深層学習モデルに代数的可観測性を取り入れた．これにより，観測データが限定的である場合にも物理現象等を予測可能なモデルが構築できた．本成果は，解釈性に優れた深層学習モデルとみなすことができる．既に，国内の研究集会で口頭発表を行い，2023年度には，数理生物に関する国際学会にて招待講演を予定している．その他は，以前より進めていた，パラメータがデータから同定不可能な場合や，物理計算系の設計に向けた，代数的アプローチに関する研究である．これについて論文を執筆し，現在投稿準備中である．(B）研究代表者及び共同研究者は，時間発展現象のモデル化に用いられるSciNetと呼ばれる深層学習モデルに対し，新たにSHAPという手法を適用した．具体的には，学習されたモデルの中間層と，現象を支配すると予想されるパラメータ候補の関係について，SHAPを用いて調べることで，深層学習モデルに解釈性を付与することができた．本手法について，パラメータ候補間に従属関係がある場合は解釈性の低下が予想されるが，この場合は，従属関係を考慮した拡張版SHAPや，シンボリック回帰の適用などにより対処できると考えられる．現在，これらの拡張を進めつつ研究のまとめを行っており，2023年度に口頭発表・論文執筆予定である．

近年，データ駆動型のモデリングが多数提案されている．このようなモデリングによる科学的知見の抽出に向け，本研究では，現象に関する解釈性等に焦点をおき，それに関するモデリングについて，代数を取り入れたアプローチで取り組む．以下，現象が微分方程式等に従うと仮定し，方程式の一部が未知と考えるアプローチ（以下，A）と，方程式の大部分が未知と考えるアプローチ（以下，B）の二つに大別し，それぞれの成果を概説する．（A）三つの研究を進めた．まず，Physics-Informed Neural Networkという深層学習モデルに代数的可観測性を取り入れた．これにより，観測データが限定的である場合にも物理現象等を予測可能なモデルが構築できた．本成果は，解釈性に優れた深層学習モデルとみなすことができる．既に，国内の研究集会で口頭発表を行い，2023年度には，数理生物に関する国際学会にて招待講演を予定している．その他は，以前より進めていた，パラメータがデータから同定不可能な場合や，物理計算系の設計に向けた，代数的アプローチに関する研究である．これについて論文を執筆し，現在投稿準備中である．(B）研究代表者及び共同研究者は，時間発展現象のモデル化に用いられるSciNetと呼ばれる深層学習モデルに対し，新たにSHAPという手法を適用した．具体的には，学習されたモデルの中間層と，現象を支配すると予想されるパラメータ候補の関係について，SHAPを用いて調べることで，深層学習モデルに解釈性を付与することができた．本手法について，パラメータ候補間に従属関係がある場合は解釈性の低下が予想されるが，この場合は，従属関係を考慮した拡張版SHAPや，シンボリック回帰の適用などにより対処できると考えられる．現在，これらの拡張を進めつつ研究のまとめを行っており，2023年度に口頭発表・論文執筆予定である．