Multimodal Optimization in Generating Adversarial Examples Using Evolutionary Algorithm

本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，AEの探索方法として進化計算手法であるDifferential Evolution(DE)を用いる.2022年度は，One pixel attackのNon-targeted attackにおける目的関数の景観に着目し，1 度の攻撃(アルゴリズム)の実行で複数のAEを獲得する手法について研究を行った．多クラス分類器に対するNon-targeted attackでは，正解クラス以外のクラスへ誤分類させる複数のAE(解)が存在する．そのため，目的関数の景観は多峰性関数と考えられる. 提案手法では，この多峰性関数において複数解を順番に探索できるように，目的関数にペナルティを動的に追加するという変更を加えた.また，DEの改良手法であるRank-based DE (RDE)を用いることで探索効率の向上を図った．RDEは個体群の適応度によって決定されるランク情報に基づき，親個体ごとに異なる制御パラメータの値を割り当てる手法である．基本的なデータセットであるCIFAR-10と代表的な機械学習モデル(DenseNet, ResNet，WideResNet)を用いた実験を通し，提案手法はシンプルな工夫でありながら Targeted attackを複数回繰り返す方法よりも効率的に複数AEを発見できることを示した.また，RDEの多様性保持のメカニズムは複数解を連続して探索する際にも有効に機能することも確認した．

本課題では，機械学習モデルに対し誤分類を誘発するAdversarial Examples (AE)を生成する手法を提案する.AEの生成はモデルの内部情報を用いることができないBlack-box環境下で行うものとし，AEの探索方法として進化計算手法であるDifferential Evolution(DE)を用いる.2022年度は，One pixel attackのNon-targeted attackにおける目的関数の景観に着目し，1 度の攻撃(アルゴリズム)の実行で複数のAEを獲得する手法について研究を行った．多クラス分類器に対するNon-targeted attackでは，正解クラス以外のクラスへ誤分類させる複数のAE(解)が存在する．そのため，目的関数の景観は多峰性関数と考えられる. 提案手法では，この多峰性関数において複数解を順番に探索できるように，目的関数にペナルティを動的に追加するという変更を加えた.また，DEの改良手法であるRank-based DE (RDE)を用いることで探索効率の向上を図った．RDEは個体群の適応度によって決定されるランク情報に基づき，親個体ごとに異なる制御パラメータの値を割り当てる手法である．基本的なデータセットであるCIFAR-10と代表的な機械学習モデル(DenseNet, ResNet，WideResNet)を用いた実験を通し，提案手法はシンプルな工夫でありながら Targeted attackを複数回繰り返す方法よりも効率的に複数AEを発見できることを示した.また，RDEの多様性保持のメカニズムは複数解を連続して探索する際にも有効に機能することも確認した．