危険度が高い敵対的事例をハードラベルブラックボックス条件下で発見する最適化法

点击翻译按钮获取中文摘要

本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくく深層ニューラルネットワーク（DNN）の誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．以下では，本年度の実績について，当初の研究計画の主要な研究内容である(a)ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用，の観点から述べる．(a)のハードラベルブラックボックス条件下において危険度の高い敵対的事例を発見する方式については，基本アルゴリズムの設計を行い，CMA-ESを基本とする攻撃アルゴリズムの特性の検証を行うとともに，物理環境下で脆弱性を検証することで敵対的事例候補の評価を行う実環境評価型最適化アルゴリズムの開発を行った．(b)の各種タスクの応用については，物体認識，音声認識，深度推定タスクを対象として提案する敵対的攻撃アルゴリズムを適用するソフトウェアの開発を行った． 特に，画像を扱う深層ニューラルネットワークを実環境下で検証する実験環境の構築を行った．上記に加え今年度は，(c) 敵対的事例の脆弱性に着目することで得られた敵対的事例の矯正方式，すなわち，敵対的事例から正しい分類カテゴリを推定する方式の着想を得た．本方式は，防御の対象となる深層ニューラルネットワークが扱う入力の種類（画像，音声など）によらず，敵対的攻撃方法が確立されている種類であれば適用できる汎用性に特徴がある．