Development of computational methods for increasing reliability and safety of deep neural networks for medical imaging

开发提高医学成像深度神经网络可靠性和安全性的计算方法

基本信息

批准号：
21H03545
负责人：
竹本和広
金额：
$ 11.23万
依托单位：
Kyushu Institute of Technology
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2026-03-31
项目状态：
未结题

项目摘要

本研究課題は、複雑ネットワークの理論を応用することで、医用画像診断のために開発された深層ニューラルネットワーク（DNN）の信頼性評価や安全性向上のために、敵対的攻撃に対するDNNのロバスト性(信頼性)評価と安全性向上のための計算手法を開発し、安全で信頼できる医療AIの開発に貢献することを目的とする。本年度は以下のような実績をあげた。DNNのほとんどのタスクを失敗させる・制御する普遍的敵対的摂動（UAP）をブラックボックス条件下で生成する簡単な手法を開発した（Koga and Takemoto 2022）。具体的に、DNNの出力に基づく単純な山登り探索を用いてUAPを生成する方法を提案し、代表的なDNNベースの医療画像分類を用いたブラックボックス条件の比較的小さなデータセットを用いて、UAPが容易に生成可能であることを実証した。ImageNetなどで事前されたDNNから転移学習はよく用いられるが、その事前訓練DNNにバックドアが仕掛けられていた場合、小型のDNNを除き、転移学習を経てモデルが変更された後もそのバックドアが有効なままであることを明らかにした（Matsuo and Takemoto 2022）。さらに、バックドアを検出することは困難であることも明らかにした。DNNに対する敵対的攻撃の手法を応用して、社会ネットワークにおける集団意思決定は、極めて小さな（検出困難な）摂動を加えることで歪めることができることを示した（Chiyomaru and Takemoto 2022）。具体的に、投票者モデルにおいて、個人の意見状態を目標状態に近づけるための攻撃方法を提案し、一つの意見が多数派であっても、極めて小さな摂動をで、投票結果を反転させることができることを示した。これは複雑なネットワークにおいてより顕著になることも示した。

该研究主题旨在通过应用复杂网络的理论并评估用于医学成像诊断的深神经网络（DNN）的可靠性和安全性来为安全可靠的医学AI的发展做出贡献，并通过开发计算方法来评估DNN的鲁棒性（可靠性），以抗敌对攻击和提高安全性。今年，我们取得了以下结果：我们开发了一种简单的技术来在黑匣子条件下产生通用的对抗扰动（UAP），这些条件失败并控制DNN中的大多数任务（Koga and Takemoto 2022）。具体而言，我们提出了一种使用基于DNN输出的简单登山搜索生成UAP的方法，并证明可以使用相对较小的数据集在黑匣子条件下使用代表性DNN的基于DNN的医疗图像分类来轻松生成UAP。尽管从DNN和其他情况中经常使用TRANSFER学习，但是当将后门安装在训练前DNN中时，据透露，除了小型DNN外，即使在转移学习后更改模型后，后门仍然有效（Matsuo和Takemoto 20222）。它还揭示了后门检测很困难。采用对DNN的敌对攻击方法，我们表明，通过应用极小（难以检测的）扰动（Chiyomaru和Takemoto 2022），社交网络中的集体决策可能会扭曲。具体而言，在选民模型中，我们提出了一种攻击方法，使个人的意见状态更接近目标状态，表明即使一个意见是多数人，投票结果也可以通过极小的扰动来逆转。在复杂的网络中，这也显示出更为明显。