Adversarial design in deep learning

点击翻译按钮获取中文摘要

現在までに「敵対的デザイン」にために、深層学習システムおよび深層強化学習システムへの敵対的攻撃に対する脆弱性について検証した。概要は次の通りである。深層学習の画像・行動認識システムにおいて、敵対的攻撃の脆弱性を検証した。（１）モデルの入力変数間の関係に基づく敵対的転移性の仮説を立て、分析を行い、関連性を発見した。（２）スケルトンベースの行動認識に対して、スケルトンの長さを変えるだけで攻撃できる手法を開発し、敵対的訓練でロバスト性と正確さが向上することを示した。（３）敵対的画像の振幅と位相のスペクトルが畳み込みニューラルネットワーク（CNN）分類器の頑健性に及ぼす影響を調査することで、画像摂動に対するCNNの脆弱性を検証した。敵対的画像の振幅スペクトルとクリーン画像の位相スペクトルを組み合わせた画像を用いた訓練により、CNN分類器が一般的な頑健性を持つことを示した。深層強化学習を用いた歩行ロボットの脆弱性評価について、以下の3つの敵対的攻撃を検証した。（１）部品形状に対する攻撃では、差分進化手法を開発し、OpenAI Gymで3種類のロボットを実験して脆弱な形状を特定した。（２）関節部への攻撃においても、差分進化手法を用いてトルク信号への摂動攻撃が4足歩行ロボットに可能であることを実証した。（３）不整地での歩行に対する脆弱性を評価し、荒い地形での訓練によって不整地での歩行能力が向上することが確認された。