权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Development of computational methods for increasing reliability and safety of deep neural networks for medical imaging

开发提高医学成像深度神经网络可靠性和安全性的计算方法

基本信息

批准号：
21H03545
负责人：
竹本和広
金额：
$ 11.23万
依托单位：
Kyushu Institute of Technology
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2026-03-31
项目状态：
未结题

项目摘要

本研究課題は、複雑ネットワークの理論を応用することで、医用画像診断のために開発された深層ニューラルネットワーク（DNN）の信頼性評価や安全性向上のために、敵対的攻撃に対するDNNのロバスト性(信頼性)評価と安全性向上のための計算手法を開発し、安全で信頼できる医療AIの開発に貢献することを目的とする。本年度は以下のような実績をあげた。DNNのほとんどのタスクを失敗させる・制御する普遍的敵対的摂動（UAP）をブラックボックス条件下で生成する簡単な手法を開発した（Koga and Takemoto 2022）。具体的に、DNNの出力に基づく単純な山登り探索を用いてUAPを生成する方法を提案し、代表的なDNNベースの医療画像分類を用いたブラックボックス条件の比較的小さなデータセットを用いて、UAPが容易に生成可能であることを実証した。ImageNetなどで事前されたDNNから転移学習はよく用いられるが、その事前訓練DNNにバックドアが仕掛けられていた場合、小型のDNNを除き、転移学習を経てモデルが変更された後もそのバックドアが有効なままであることを明らかにした（Matsuo and Takemoto 2022）。さらに、バックドアを検出することは困難であることも明らかにした。DNNに対する敵対的攻撃の手法を応用して、社会ネットワークにおける集団意思決定は、極めて小さな（検出困難な）摂動を加えることで歪めることができることを示した（Chiyomaru and Takemoto 2022）。具体的に、投票者モデルにおいて、個人の意見状態を目標状態に近づけるための攻撃方法を提案し、一つの意見が多数派であっても、極めて小さな摂動をで、投票結果を反転させることができることを示した。これは複雑なネットワークにおいてより顕著になることも示した。

In this study, the subject of this study, the theory of replication, the use of medical portraits, the opening of medical portraits, the use of information technology, the use of medical portraits, medical portraits The safety information service, the medical staff, the AI, the medical staff, the doctor, the doctor and the doctor. The following is the year in which you will be invited to pay attention. The DNN system has failed to control the activities of the general information system (UAP). It is necessary to generate information on the operation of the system under the condition that it is not available (Koga and Takemoto 2022). The specific DNN contributes to the exploration of how to use the UAP to generate the proposal of the method, and the representative of the "DNN" medical portrait is classified into categories, such as the comparison of the conditions, and the possibility that the UAP is easy to generate. ImageNet in advance, DNN in advance, transfer in advance, in DNN, in advance, in advance, DNN in advance, in advance, In the first place, please tell me that you are in trouble. The attack method of DNN is to determine the meaning of the collection of information and social information, and to make a decision on the meaning of the collection, and to make a decision on the meaning of the collection, and to make a decision on the meaning of the collection, and to increase the number of activities (Chiyomaru and Takemoto 2022). Specific candidates, voters