知識の転移によるデータ解析効率化の研究

大規模かつ複雑なデータを効率よく解析する技術の一つとして深層学習がある。深層学習を本区分の実験データに適用することで、従来の手法を大きく超える精度でのデータ解析が期待されている。一方で、深層学習の性能を最大化するためには大量の学習データが必要になるという課題がある。本研究の目的は、転移学習技術を本区分のデータ解析に適用し、効率的な学習を実現することである。初年度における研究では、素粒子実験におけるイベント分類問題を研究対象とした。例えば、LHCで行われているATLAS実験では様々な解析チャンネルが存在する。もし、ある解析チャンネルで学習した知識(深層学習モデルのパラメーター)を別の解析チャンネルに転移可能であれば、ランダムな初期値から学習する場合と比べて効率的に学習が進むはずである。ここで、様々な解析チャンネルに適応できる深層学習モデルとして、グラフニューラルネットワーク(GNN)を採用した。GNNを活用することで、解析に用いるオブジェクト数が異なる場合にも転移学習を適用できる深層学習モデルを構築することができた。そして、シミュレーションを用いて検証用のデータを生成し、いくつかの解析チャンネルに対する転移学習の有効性の検証を行った。検証の結果、転移学習を用いることで少ない学習データでも効率的に学習が行えることを示した。特に、当初の予想通り、物理過程が似ている解析チャンネル間では転移学習の効果が大きいことが確認された。また、上記の研究過程において、GNNの表現力の高さを認識し、粒子の崩壊過程の情報をイベント分類問題と同時に学習させる研究(マルチタスク学習)も着想した。これは、我々の事前の物理学の知識を帰納バイアスとして深層学習に取り込んでいるといえる。このマルチタスク学習のアプローチによって、イベント分類問題の分類精度が向上することが確認できた。

大規模かつ複雑なデータを効率よく解析する技術の一つとして深層学習がある。深層学習を本区分の実験データに適用することで、従来の手法を大きく超える精度でのデータ解析が期待されている。一方で、深層学習の性能を最大化するためには大量の学習データが必要になるという課題がある。本研究の目的は、転移学習技術を本区分のデータ解析に適用し、効率的な学習を実現することである。初年度における研究では、素粒子実験におけるイベント分類問題を研究対象とした。例えば、LHCで行われているATLAS実験では様々な解析チャンネルが存在する。もし、ある解析チャンネルで学習した知識(深層学習モデルのパラメーター)を別の解析チャンネルに転移可能であれば、ランダムな初期値から学習する場合と比べて効率的に学習が進むはずである。ここで、様々な解析チャンネルに適応できる深層学習モデルとして、グラフニューラルネットワーク(GNN)を採用した。GNNを活用することで、解析に用いるオブジェクト数が異なる場合にも転移学習を適用できる深層学習モデルを構築することができた。そして、シミュレーションを用いて検証用のデータを生成し、いくつかの解析チャンネルに対する転移学習の有効性の検証を行った。検証の結果、転移学習を用いることで少ない学習データでも効率的に学習が行えることを示した。特に、当初の予想通り、物理過程が似ている解析チャンネル間では転移学習の効果が大きいことが確認された。また、上記の研究過程において、GNNの表現力の高さを認識し、粒子の崩壊過程の情報をイベント分類問題と同時に学習させる研究(マルチタスク学習)も着想した。これは、我々の事前の物理学の知識を帰納バイアスとして深層学習に取り込んでいるといえる。このマルチタスク学習のアプローチによって、イベント分類問題の分類精度が向上することが確認できた。