A study on a high efficiency training architecture for an edge-AI device

点击翻译按钮获取中文摘要

AIの演算処理は「推論処理」と「学習処理」に大別でき，AIの恩恵を得るためにはどちらの処理も必須である．そのうち，主に積和演算等から成り立つ推論処理については多くのエッジAIソリューションが存在する．一方，エッジでの学習処理については，未だ汎用プロセッサを中心としたソフトウェア的な手法に留まっており，消費電力や演算リソース等の学習処理のコストは極めて高い．そこで本研究は，電力やハードウェア資源が制限されるエッジデバイスにおいて，学習処理を可能とする新規アルゴリズムとそれらを実装するアーキテクチャの構築を目的とした．その一つとして，アナログ回路を導入した「コンピューティングインメモリ（Computing in Memory: CIM）デバイス」のための誤差逆伝播法，およびCIMデバイスを用いて学習処理を行うアーキテクチャの構築を行った．従来のノイマン型アーキテクチャの問題解消に向けた取り組みとして多量のデータ（パラメータ）を保存しているメモリ上で積和演算を行うCIMアーキテクチャが注目されている．本研究では，「ReRAMを用いたCIM AIデバイス」上に学習機能を実現するための新規アルゴリズムの開発を行った．多くのCIM AIデバイスの抱える問題に対処するためディジタル誤差逆伝播法（Digital BP）に着目し，その弱点（性能低下）を補うニューラルネットワークの構造を新たに考案しその性能を示した．当該年度は，査読付き論文誌への投稿とその査読結果を踏まえて電力に関する追加評価を行い，学習部における演算コアの消費電力を10 mW以下にできることを示した．また，同等のアーキテクチャ構造（CIMデバイスを外部メモリとして扱い，学習を専用回路で行う）を持つ他の研究と比較し，その優位性を議論した．上記結果をまとめたものを現在論文誌へと投稿中である．