A study on a high efficiency training architecture for an edge-AI device

边缘AI设备高效训练架构研究

基本信息

批准号：
21J11958
负责人：
金子竜也
金额：
$ 1.09万
依托单位：
Hokkaido University
依托单位国家：
日本
项目类别：
Grant-in-Aid for JSPS Fellows
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-28 至 2023-03-31
项目状态：
已结题

项目摘要

AIの演算処理は「推論処理」と「学習処理」に大別でき，AIの恩恵を得るためにはどちらの処理も必須である．そのうち，主に積和演算等から成り立つ推論処理については多くのエッジAIソリューションが存在する．一方，エッジでの学習処理については，未だ汎用プロセッサを中心としたソフトウェア的な手法に留まっており，消費電力や演算リソース等の学習処理のコストは極めて高い．そこで本研究は，電力やハードウェア資源が制限されるエッジデバイスにおいて，学習処理を可能とする新規アルゴリズムとそれらを実装するアーキテクチャの構築を目的とした．その一つとして，アナログ回路を導入した「コンピューティングインメモリ（Computing in Memory: CIM）デバイス」のための誤差逆伝播法，およびCIMデバイスを用いて学習処理を行うアーキテクチャの構築を行った．従来のノイマン型アーキテクチャの問題解消に向けた取り組みとして多量のデータ（パラメータ）を保存しているメモリ上で積和演算を行うCIMアーキテクチャが注目されている．本研究では，「ReRAMを用いたCIM AIデバイス」上に学習機能を実現するための新規アルゴリズムの開発を行った．多くのCIM AIデバイスの抱える問題に対処するためディジタル誤差逆伝播法（Digital BP）に着目し，その弱点（性能低下）を補うニューラルネットワークの構造を新たに考案しその性能を示した．当該年度は，査読付き論文誌への投稿とその査読結果を踏まえて電力に関する追加評価を行い，学習部における演算コアの消費電力を10 mW以下にできることを示した．また，同等のアーキテクチャ構造（CIMデバイスを外部メモリとして扱い，学習を専用回路で行う）を持つ他の研究と比較し，その優位性を議論した．上記結果をまとめたものを現在論文誌へと投稿中である．

AI算术处理可以大致分为“推理处理”和“学习处理”，这两个过程对于获得AI的好处都是必不可少的。其中，有许多用于推理处理的边缘AI解决方案，其中主要由产品和运营组成。另一方面，边缘的学习处理仍然仅限于软件方法，主要是通用处理器，而学习处理（例如功耗和计算资源）的成本非常高。因此，这项研究旨在构建一种新算法，该算法可以在功率和硬件资源有限的边缘设备中进行学习处理，以及实现它们的架构。其中之一是用于包含模拟电路的内存（CIM）设备中的“计算（CIM）设备中计算”的错误反向传播方法，以及使用CIM设备进行学习过程的体系结构。为了解决传统Neumann架构的问题，在存储大量数据（参数）的内存上执行产品总和操作的CIM架构引起了人们的注意。在这项研究中，我们开发了一种新算法，用于在“使用重新兰异的CIM AI设备”上实现学习功能。为了解决许多CIM AI设备所面临的问题，我们专注于数字错误反向传播（数字BP），并设计了一种新的神经网络结构，以弥补其弱点（性能退化）并证明了其性能。在今年，根据对同行评审期刊的提交和同行评审的结果进行了额外的权力评估，这表明学习部分中计算核心的功耗可以降低到10 MW或更少。此外，我们通过将其与具有可比建筑结构的其他研究进行比较（CIM设备被视为外部记忆，并使用专用电路进行学习），讨论了它的优势。目前正在将上述结果摘要提交给期刊。