階層的パターン抽出と最適ルール集合獲得に基づく説明可能動的グラフマイニング

点击翻译按钮获取中文摘要

本研究課題は、 既存の説明可能AI技術に関する問題点を軽減すると共に、深層学習モデルの安全な利用を促進するため、深層学習モデルから高い解釈性・了解性を持つ構造化知識を獲得することを目的としている。この目的に向け、本年度は（１）グラフニューラルネットワークに対する攻撃検知、（２）系列データに対する説明可能AI技術の応用、（３）解集合プログラミングを用いた知識獲得について研究を行った。グラフニューラルネットワークの攻撃検知に関しては、GCN中間層出力を対象とした特徴抽出と分類器・例外発見器の併用を用いる手法を開発するとともに、その発展として、中間層出力に対する距離学習・対照学習の適用を検討した。系列データに対する説明可能AI技術の応用に関しては、野球の投球データから打席結果を予測するLSTMモデルを対象に、系列モデルにおいて属性重要度を算出する説明可能AI技術であるTIMEおよびTimeSHAPの適用を行った。加えて、反実仮想説明生成器であるDiCEを援用し、投手の傾向を考慮した反実仮想説明の生成を行った。解集合プログラミングを用いた知識獲得に関しては、グラフ表現される不動産間取り図を対象に、その選好を表現する弱制約の抽出および分類ルールの獲得を行った。具体的には、帰納論理プログラミングシステムILASPを用いることで、部屋配置を表すグラフ構造に加え、窓の数などの各部屋が持つ属性を考慮した制約やルールを獲得することに成功した。また、解集合プログラミングを用いた別の応用として、人狼ゲームログからの役職推定システムを構築した。こちらは、矛盾を伴う知識を扱う確率論理プログラミングシステムLP＾MLNを利用し、ルールに加えて傾向を考慮した推定モデルを構築している。