Development of computational methods for increasing reliability and safety of deep neural networks for medical imaging

本研究課題は、複雑ネットワークの理論を応用することで、医用画像診断のために開発された深層ニューラルネットワーク（DNN）の信頼性評価や安全性向上のために、敵対的攻撃に対するDNNのロバスト性(信頼性)評価と安全性向上のための計算手法を開発し、安全で信頼できる医療AIの開発に貢献することを目的とする。本年度は以下のような実績をあげた。DNNのほとんどのタスクを失敗させる・制御する普遍的敵対的摂動（UAP）をブラックボックス条件下で生成する簡単な手法を開発した（Koga and Takemoto 2022）。具体的に、DNNの出力に基づく単純な山登り探索を用いてUAPを生成する方法を提案し、代表的なDNNベースの医療画像分類を用いたブラックボックス条件の比較的小さなデータセットを用いて、UAPが容易に生成可能であることを実証した。ImageNetなどで事前されたDNNから転移学習はよく用いられるが、その事前訓練DNNにバックドアが仕掛けられていた場合、小型のDNNを除き、転移学習を経てモデルが変更された後もそのバックドアが有効なままであることを明らかにした（Matsuo and Takemoto 2022）。さらに、バックドアを検出することは困難であることも明らかにした。DNNに対する敵対的攻撃の手法を応用して、社会ネットワークにおける集団意思決定は、極めて小さな（検出困難な）摂動を加えることで歪めることができることを示した（Chiyomaru and Takemoto 2022）。具体的に、投票者モデルにおいて、個人の意見状態を目標状態に近づけるための攻撃方法を提案し、一つの意見が多数派であっても、極めて小さな摂動をで、投票結果を反転させることができることを示した。これは複雑なネットワークにおいてより顕著になることも示した。

本研究課題は、複雑ネットワークの理論を応用することで、医用画像診断のために開発された深層ニューラルネットワーク（DNN）の信頼性評価や安全性向上のために、敵対的攻撃に対するDNNのロバスト性(信頼性)評価と安全性向上のための計算手法を開発し、安全で信頼できる医療AIの開発に貢献することを目的とする。本年度は以下のような実績をあげた。DNNのほとんどのタスクを失敗させる・制御する普遍的敵対的摂動（UAP）をブラックボックス条件下で生成する簡単な手法を開発した（Koga and Takemoto 2022）。具体的に、DNNの出力に基づく単純な山登り探索を用いてUAPを生成する方法を提案し、代表的なDNNベースの医療画像分類を用いたブラックボックス条件の比較的小さなデータセットを用いて、UAPが容易に生成可能であることを実証した。ImageNetなどで事前されたDNNから転移学習はよく用いられるが、その事前訓練DNNにバックドアが仕掛けられていた場合、小型のDNNを除き、転移学習を経てモデルが変更された後もそのバックドアが有効なままであることを明らかにした（Matsuo and Takemoto 2022）。さらに、バックドアを検出することは困難であることも明らかにした。DNNに対する敵対的攻撃の手法を応用して、社会ネットワークにおける集団意思決定は、極めて小さな（検出困難な）摂動を加えることで歪めることができることを示した（Chiyomaru and Takemoto 2022）。具体的に、投票者モデルにおいて、個人の意見状態を目標状態に近づけるための攻撃方法を提案し、一つの意見が多数派であっても、極めて小さな摂動をで、投票結果を反転させることができることを示した。これは複雑なネットワークにおいてより顕著になることも示した。