权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

Multimodal Optimization in Generating Adversarial Examples Using Evolutionary Algorithm

使用进化算法生成对抗性示例的多模态优化

基本信息

批准号：
20K11977
负责人：
串田淳一
金额：
$ 2.33万
依托单位：
Nihon Fukushi University (2021-2022)Hiroshima City University (2020)
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2020
资助国家：
日本
起止时间：
2020-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，AEの探索方法として進化計算手法であるDifferential Evolution(DE)を用いる.2022年度は，One pixel attackのNon-targeted attackにおける目的関数の景観に着目し，1 度の攻撃(アルゴリズム)の実行で複数のAEを獲得する手法について研究を行った．多クラス分類器に対するNon-targeted attackでは，正解クラス以外のクラスへ誤分類させる複数のAE(解)が存在する．そのため，目的関数の景観は多峰性関数と考えられる. 提案手法では，この多峰性関数において複数解を順番に探索できるように，目的関数にペナルティを動的に追加するという変更を加えた.また，DEの改良手法であるRank-based DE (RDE)を用いることで探索効率の向上を図った．RDEは個体群の適応度によって決定されるランク情報に基づき，親個体ごとに異なる制御パラメータの値を割り当てる手法である．基本的なデータセットであるCIFAR-10と代表的な機械学習モデル(DenseNet, ResNet，WideResNet)を用いた実験を通し，提案手法はシンプルな工夫でありながら Targeted attackを複数回繰り返す方法よりも効率的に複数AEを発見できることを示した.また，RDEの多様性保持のメカニズムは複数解を連続して探索する際にも有効に機能することも確認した．

This topic is to propose a method for generating Adversarial Examples (AE) for mechanical learning, to induce misclassification, to use AE generation and internal information in Black-box environments, to explore methods for AE generation and to use Differential Evolution(DE). In 2022, One pixel attack and Non-targeted attack will be targeted at the context of the number of objectives. The implementation of the 1st degree attack (ALARM ARM) and the research on methods to obtain multiple AEs are carried out. A Non-targeted attack exists for multi-class classifiers, and a complex AE(solution) exists for classification errors other than positive solutions. The goal is to increase the number of peaks in the scene, and to increase the number of peaks in the scene. The proposed method is to increase the number of peaks in the complex solution. The improved DE method is Rank-based DE (RDE). The RDE method is used to determine the appropriate degree of individual population. The RDE method is used to determine the appropriate degree of individual population. CIFAR-10 represents the basic machine learning algorithm (DenseNet, ResNet, WideResNet), which is used to implement the proposed method. RDE's versatility is maintained and the functionality is confirmed.