ドメインシフトを解決する深層ネットワークアーキテクチャの設計

设计深度网络架构来解决域转移

• 批准号: 21K17756
• 负责人: 菅沼 雅徳
• 金额: $ 2.91万
• 依托单位: Tohoku University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Early-Career Scientists
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2024-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21K17756/
• 关键词: 深層学習; 画像分類; ニューラル構造探索; ドメインシフト; 画像劣化; 画像修復; 自動構造探索; 画像認識; 構造自動設計; ニューラルネットワーク

申請当初の研究計画に従い，研究を進めている．昨年度同様，画像認識における主要な深層学習モデルである畳み込みニューラルネットワーク（CNN）に関して，ドメインシフト（画像劣化）に対する頑健性を実験的に調べた．具体的には，これまでに提案されてきた様々なCNNモデルに対して，画像劣化が各モデルにどのような影響を与えるのかを実験的に調査した．結果として，どのようなネットワークの構成要素，どのようなそれらの組み合わせがより優れた頑健性を示すのか，一定の成果を得ることができた．また，CNNのネットワーク構造だけでなく，画像劣化を引き起こす外乱の種類によっても，画像分類の性能が大きく変化することも発見した．また，CNNだけでなく，近年CNNに比肩する性能を示し，注目を集めているVision Transformerについても，その画像劣化に対する頑健性を検証している．まずは，どのようなVision Transformerの構造が優れた頑健性を示すのかを網羅的に検証するために，Vision Transformerのための構造探索手法の開発を試みた．なお，一般的には，深層学習モデルの構造探索には膨大な計算コストが必要となるため，効率的な探索手法の開発が必要となる．そこで，今年度は効率的なVision Transformerの構造探索手法の開発に注力した．結果として，既存研究より効率の良い探索が実現可能になったが，まだ改善の余地があるため，引き続き改良を行っていく予定である．また，効率的な探索手法が確立した後，画像劣化によるドメインシフトへの頑健性を調査する予定である．

Apply for the original research plan and proceed with the research. Last year's classmate, I learned about the image of the main character, the deep learning of the character.ーク (CNN) に关して, ドメインシフト(portrait deterioration) に対する stubbornness を実験的に声べた. The specific proposal is the proposal of the CNN proposal, The effects of the deterioration of the image and the investigation of the effects of the deterioration of the image. Result として, どのようなネットワークの constituent elements, どのようなそれらのgroupみ合わせがより优れた性をshows すのか, certain results をgets ることができた.また, CNN のネットワークstructural だけでなく, image deterioration をinduced きこす外The type of chaos is the same, the performance of the image classification is the big one and the change is the same as the performance of the image classification.また, CNN だけでなく, in recent years, CNN に に す る performance を show し, attention を set め て い る Vision Transformerについても,そのportrait deteriorationに対するstubbornnessを検证している. Vision Transformer, Vision Transformer's structural exploration method is open to the test.なお, general には, deep learning モデルのstructure exploration には expansion な calculation コストが となるため, efficient なexploration technique の开発が となる．そこで, this year's most efficient なVision Transformer's structure exploration technique is developed and focused. The result is the same, the existing research is efficient and the exploration is possible, There is room for improvement, and it is determined that there is room for improvement. After the efficient exploration method was established, the deterioration of the image was investigated and determined.