General-purpose deep learning theory for ultra-low computational complexity and low capacity in the age of edge AI

边缘AI时代超低计算复杂度和低容量的通用深度学习理论

• 批准号: 21H03456
• 负责人: 小川 貴弘
• 金额: $ 10.82万
• 依托单位: Hokkaido University
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for Scientific Research (B)
• 财政年份: 2021
• 资助国家: 日本
• 起止时间: 2021-04-01 至 2026-03-31
• 项目状态: 未结题
• 来源: https://kaken.nii.ac.jp/en/grant/KAKENHI-PROJECT-21H03456/
• 关键词: 人工知能; IoT; エッジAI; モデルクローニング; クロスモーダル知識転移; 少量データ学習; スパース表現; 機械学習; 深層学習; 低演算; 低演算量; バイナリスパース表現

本研究課題では、エッジAI時代の超低演算量・低容量化を実現する汎用深層学習理論の構築を目指している。研究代表者が進めてきた低演算量・低容量バイナリスパース表現技術とクロスモーダル埋め込み技術の研究を融合させ、AIの演算量と学習データ量を大幅に削減可能な新たな理論を構築する。具体的に、最先端の深層学習モデルをバイナリスパース表現により模倣し、さらに、他のモダリティからの知識転移を行うことで、深層学習の利点である高い精度を保持しつつ、演算量削減と学習データ量の小規模化を同時に実現する。本研究課題では、構築理論の汎用性を示すとともに、エッジデバイス上での評価検証を行う。尚、本研究課題は研究分担者とともに遂行し、実施項目である「① モデルクローニング技術の実現による演算量の削減」および「② クロスモーダル知識転移技術の実現による学習データ量の小規模化」については、①の研究を小川・藤後が、②の研究を小川・前田が実施する。令和4年度は、「バイナリスパース深層学習モデルの実現」を目指し、研究を遂行した。具体的に、演算量削減と学習データ量の小規模化のそれぞれを以下のように実現した。まず、構築済みの「深層学習モデルの中間層出力」と「バイナリスパース深層学習モデルの中間出力」との相関を最大化する理論に、データの近似誤差最小化を可能にする損失関数を新たに組み込むことで、各中間層出力を低演算量のバイナリスパース表現で模倣するモデルクローニングを実現した。次に、異なる種類のモダリティの相関を最大化する理論を構築することで、学習データ量の不足をモダリティ相関に基づき補間するクロスモーダル知識転移を実現した。研究成果の対外発表についても積極的に行い、コンピュータビジョン分野のトップ国際会議ECCVへの採択や、信号処理分野のトップ国際会議ICASSPへの採択に至った。

This research topic aims at the realization of ultra-low throughput and low capacity in the AI era and the construction of universal deep learning theory. Research representatives have been working on low throughput, low capacity, performance technology, integration, AI throughput, and learning capacity to significantly reduce the likelihood of new theoretical developments. Specifically, the most advanced deep learning model is to imitate, simulate, and shift knowledge from one model to another. The advantages of deep learning are to maintain high accuracy, reduce computation, and reduce learning volume simultaneously. This research topic is to construct a theory of universal application, evaluation and verification. However, this research topic is related to the implementation of the project by the research co-authors:"① Reduction of computational effort in the implementation of virtual log technology" and "② Small-scale learning data in the implementation of virtual log knowledge migration technology". The research on ① is carried out by Ogawa Fujioka, and the research on ② is carried out by Ogawa Maeda. In 2004, the "Deep Learning" project was launched. The following is a detailed description of how to reduce the amount of computation and how to minimize the amount of learning. To maximize the correlation between the "intermediate layer output of deep learning" and the "intermediate layer output of deep learning" of the structure and to minimize the approximation error of the data, the loss factor is possible to realize the simulation of the new group of intermediate layer outputs with low computation. The theory of maximum correlation of different kinds of information is constructed, and the knowledge of insufficient information is realized. The research results are related to the development of active activities in the field of communication, communication and communication, and the acquisition of ECCV and ICASSP.

项目成果

360度映像におけるマルチビュー学習に基づくバイノーラル音声生成の高精度化に関する検討

提高360度视频中基于多视角学习的双耳音频生成精度的研究

• 发表时间: 2023
• 作者: 吉田 将規;藤後 廉;小川 貴弘;長谷山 美紀
• 通讯作者: 長谷山 美紀

北海道大学におけるデータ駆動型融合研究創発の取組

北海道大学致力于创建数据驱动的融合研究

• 发表时间: 2023
• 作者: 長谷山 美紀;水谷 祐輔;田中 晋吾
• 通讯作者: 田中 晋吾

セマンティックセグメンテーションに対するマルチソースモデル適応に関する検討 ー 複数のソースモデルからの不変な特徴表現の学習による適応精度の向上 ー

语义分割的多源模型自适应研究 - 通过学习多源模型的不变特征表示来提高自适应精度 -

• 发表时间: 2022
• 作者: 李 宗曜;藤後 廉;小川 貴弘;長谷山 美紀
• 通讯作者: 長谷山 美紀

Cross-view self-supervised learning via momentum statistics in batch normalization

通过批量归一化中的动量统计进行跨视图自监督学习

• 发表时间: 2021
• 作者: Guang Li;Ren Togo;Takahiro Ogawa;Miki Haseyama
• 通讯作者: Miki Haseyama

情報処理システム

信息处理系统

• 发表时间: 2022