統計力学的解析に基づく敵対的機械学習の理論基盤の確立

点击翻译按钮获取中文摘要

2022年度の主な研究成果は、機械学習モデルにおけるポイズニング攻撃の一種であるバックドアポイズニング攻撃に関するものである。機械学習では、モデルの学習の際にデータ拡張（データ水増し）と呼ばれる手法がしばしば用いられる。我々は、グラフ分類を解くグラフニューラルネットワークにおけるバックドアポイズニング攻撃の効果を数値的に調べた。データ拡張を用いて訓練したグラフニューラルネットワークがバックドア攻撃に対して脆弱であり、データ拡張を行わない場合に比べてバックドア攻撃により脆弱になってしまう場合があることを示した。この研究に関する国内学会での発表1件を行ったほか、国際学術論文誌に1件の論文を投稿中であり、現在査読中である。この他にも、グラフスペクトルを用いてグラフ構造を持つデータにステガノグラフィを埋め込む方式の開発を行った。この方式は、既存のグラフステガノグラフィ方式における、送信者と受信者がグラフの頂点識別子を共有しなければならないという問題を、グラフスペクトルを用いることにより克服したものである。また、直接的に敵対的機械学習に関連する成果ではないが、2022年度は研究代表者がかねてより継続して行っているマルコフ確率場による統計的機械学習についての理論的な成果もあげることができた。これらの成果はマルコフ確率場に基づく機械学習モデルにおける異常検知などでの応用へ発展させることができると考えており、2023年度以降に取り組む予定である。