Image Classification Models based on Grid Neural Networks for Small Datasets

基于网格神经网络的小数据集图像分类模型

• 批准号: 20K11871
• 负责人: 武田 敦志
• 金额: $ 2.58万
• 依托单位: Tohoku Gakuin University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (C)
• 财政年份: 2020
• 资助国家: 日本
• 起止时间: 2020-04-01 至 2024-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-20K11871/
• 关键词: 深層学習; 画像認識; ニューラルネットワーク; 転移学習

画像分類を行うための分類精度の高い深層学習モデルを作成するためには大規模な画像データセットが必要となるが、それぞれの画像分類の課題に対して適切な大規模データセットを作成することは容易ではない。そこで、本研究課題では、小規模のデータセットを用いて学習を行った場合であっても高い画像分類性能を達成するSkipResNetやSkipConvNeXtを開発した。これらの画像分類モデルは、従来より研究開発を行ってきたグリッドニューラルネットワークを発展させたものであり、新しい短絡経路と新たに開発したGate Moduleを用いることにより、従来の画像分類モデルよりも効率よい学習を実現している。標準的な画像分類データセットであるImageNetや小規模の画像分類データセットであるCIFARを用いた実験により、SkipResNetやSkipConvNeXtの画像分類性能は従来手法よりも高いことを確認した。また、MS-COCOやADE20Kを用いた画像認識に関する実験により、SkipResNetをBackboneとした画像認識モデルの画像認識性能が従来手法よりも高いことを確認した。さらに、本研究課題で新たに開発したGate ModuleはSwinTransformerなどのSelf-Attention機構を中心とした深層学習モデルにも導入可能であり、SwinTransformerにGate Moduleを導入したSkipSwinTransformerを開発した。ImageNetを用いた実験を行い、SkipSwinTransformerの画像分類性能が従来手法であるSwinTransformerよりも優れていることを確認した。本研究課題で開発したニューラルネットワークの実装と実験結果をGitHubにて公開している。

High classification accuracy and deep learning for image classification are necessary for large-scale image classification and easy to create. This research topic is to develop SkipResNet and SkipConvNeXt for small-scale applications. The image classification system is used to analyze and analyze the image classification system. The image classification system is used to analyze the image classification system. Standard Image Classification: ImageNet Small-scale Image Classification: CIFAR, SkipResNet, SkipConvNeXt Image Classification: High Performance MS-COCO 20K is used to recognize images. SkipResNet is used to recognize images. This research topic is a new development of Gate Module, SwinTransformer, Self-Attention Mechanism, Deep Learning, SwinTransformer, Gate Module, SkipSwinTransformer. ImageNet is used to determine the image classification performance of SwinTransformer. This research project was developed and published on GitHub.

项目成果

A Simple Deep Learning Approach for Intrusion Detection System

入侵检测系统的简单深度学习方法

• DOI: 10.23919/icmu50196.2021.9638850
• 发表时间: 2021
• 期刊: Proceedings of the 13th International Conference on Mobile Computing and Ubiquitous Network (ICMU)
• 作者: Takeda Atsushi;Nagasawa Daichi
• 通讯作者: Nagasawa Daichi

画像分類のためのDense Residual Networkの提案

用于图像分类的密集残差网络的提议

• 发表时间: 2020
• 作者: Nakahara Yuki;Iiyama Yohei;Ikeda Yusuke;Kaneda Yutaka;Zhe Liu and Xian-Hua Han;武田 敦志
• 通讯作者: 武田 敦志

Detection and Analysis of Intrusion Attacks Using Deep Neural Networks

使用深度神经网络检测和分析入侵攻击

• DOI: 10.1007/978-3-031-14314-4_26
• 发表时间: 2022
• 期刊: Lecture Notes in Networks and Systems
• 作者: Jun Isshiki;Ryo Sugai and Akira Saito;Takeda Atsushi
• 通讯作者: Takeda Atsushi

Gate Moduleを導入した画像認識のためのResidual Neural Networkの提案と評価

使用门模块进行图像识别的残差神经网络的建议和评估

• 发表时间: 2022
• 作者: 西牧 樹生;堀内 靖雄;原 大介;黒岩 眞吾;武田 敦志
• 通讯作者: 武田 敦志