权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

危険度が高い敵対的事例をハードラベルブラックボックス条件下で発見する最適化法

硬标签黑盒条件下发现高风险对抗案例的优化方法

基本信息

批准号：
22K12196
负责人：
小野智司
金额：
$ 2.66万
依托单位：
Kagoshima University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2022
资助国家：
日本
起止时间：
2022-04-01 至 2025-03-31
项目状态：
未结题

项目摘要

本研究は，危険度が高い脆弱性を，外乱や環境変化の影響を受けにくく深層ニューラルネットワーク（DNN）の誤動作を継続的に誘発する敵対的事例と考え，学習器が出力するTop-1クラスラベルのみを利用してこれを発見する方式を開発する．以下では，本年度の実績について，当初の研究計画の主要な研究内容である(a)ハードラベルブラックボックス条件下で危険性の高い敵対的事例を生成する方式の創出，および，(b) 物体認識，音声認識，物体検出，深度推定等のタスクへの応用，の観点から述べる．(a)のハードラベルブラックボックス条件下において危険度の高い敵対的事例を発見する方式については，基本アルゴリズムの設計を行い，CMA-ESを基本とする攻撃アルゴリズムの特性の検証を行うとともに，物理環境下で脆弱性を検証することで敵対的事例候補の評価を行う実環境評価型最適化アルゴリズムの開発を行った．(b)の各種タスクの応用については，物体認識，音声認識，深度推定タスクを対象として提案する敵対的攻撃アルゴリズムを適用するソフトウェアの開発を行った．特に，画像を扱う深層ニューラルネットワークを実環境下で検証する実験環境の構築を行った．上記に加え今年度は，(c) 敵対的事例の脆弱性に着目することで得られた敵対的事例の矯正方式，すなわち，敵対的事例から正しい分類カテゴリを推定する方式の着想を得た．本方式は，防御の対象となる深層ニューラルネットワークが扱う入力の種類（画像，音声など）によらず，敵対的攻撃方法が確立されている種類であれば適用できる汎用性に特徴がある．

は this study, high degree of dangerous 険がい vulnerability を, disorderly や outside environmental variations のを by けにくく deep ニューラルネットワーク (within DNN) の misoperation を継続に発 lure of する enemy example of seaborne とえ, learning が output する Top 1 クラスラベルのみを using してこれを発 see する way を open 発する. The following ではの this year be performance について, の original research projects のな main research content である) (a) ハードラベルブラックボックスで険 sex の danger under the condition of high い enemy example of seaborne を generated する way の hit, および, (b) objects, sounds, object 検, depth presumption のタスクへの応 with, Youdaoplaceholder2 観 points らら says べる. (a) のハードラベルブラックボックス conditions において the case of a high degree of dangerous 険のい enemy ain を発 see する way については, basic アルゴリズムの design をい, CMA - ES を basic とする tapping shock アルゴリズムの features の検 line card をうとともに, で physical environment vulnerability を検 card することで enemy example of seaborne alternate の review 価を line う be environmental assessment type 価 optimization アルゴリズムの open 発を line った. (b) のタスクの応 with については, objects, sounds, depth of presumption タスクを like と seaborne して proposal する shock of attack of the enemy ain アルゴリズムを applicable するソフトウェアの open 発を line った. Deep に, portrait を Cha うニューラルネットワークを be environment で検 card する be 験 environment の construct line をった. Written にえ our は ", (c) the enemy example of seaborne の vulnerability に with mesh することで have られた enemy example of seaborne の correction mode, すなわち, enemy example of seaborne から is しい classification カテゴリを presumption するた think のを ways. は this way, defense の like と seaborne なる deep ニューラルネットワークが Cha うの species into force (portrait, voice など) によらず, shock method of attack of the enemy ain が establish されている kinds であれば applicable できる domestic sex に, 徴がある.