ニューラルネットワークの高効率インメモリ・リコンフィギャラブルプロセッサの研究

基于神经网络的高效内存可重构处理器研究

• 批准号: 18J20307
• 负责人: 安藤 洸太
• 金额: $ 1.98万
• 依托单位: Tokyo Institute of Technology (2019-2020)Hokkaido University (2018)
• 依托单位国家: 日本
• 项目类别: Grant-in-Aid for JSPS Fellows
• 财政年份: 2018
• 资助国家: 日本
• 起止时间: 2018-04-25 至 2021-03-31
• 项目状态: 已结题
• 来源: https://kaken.nii.ac.jp/grant/KAKENHI-PROJECT-18J20307/
• 关键词: ニューラルネットワーク; リコンフィギャラブルLSI; 畳込みニューラルネットワーク; 再構成可能アーキテクチャ; アクセラレータ; 量子化; ディザ; LSI; ハードウェア志向アルゴリズム; 深層学習; ハードウェアアクセラレータ; ハードウェアアーキテクチャ; ディジタル信号処理

前年度より、ニューラルネットワークの１層分の係数を格納するメモリと対となった積和演算器を再構成単位としてアレイ状に配列した、粗粒度なメモリ密結合型（ニアメモリ）リコンフィギャラブルアクセラレータを考えてきた。本年度はこの発展形として並行して発想された、演算器個別ではなく演算器アレイ全体に結合する独立制御可能なメモリにより、ニューラルネットワーク層単位でメモリ読み出し・演算・メモリ書き戻しまでをパイプライン処理する方式に注力した。近年の大規模化するニューラルネットワークの効率的処理の観点において、処理全体の消費電力にメモリアクセスが占める割合が非常に大きいことから、一度メモリからロードされたデータを可能な限り再利用すること（算術強度の改善）が重要である。一方、近年の高速化を目指すスパースなモデルアルゴリズムには不連続・不規則なメモリアクセスを強いるものが多数となり、従来の方法での算術強度の向上は難しくなった。本方式は１）演算器アレイの行と列をデータ構造の独立の次元に当てて並列化すること、２）それぞれの演算器に供給するデータの選択は独立制御可能なメモリのアドレシングで行い、隣接メモリ間でのデータのアラインメントずれを吸収するデータ選択機構を取り入れること、３）演算器アレイでの計算結果の書き戻しもパイプライン上で行うことの３点から、不規則なデータ構造に対しても演算器の占有率と算術強度の最大化を図るものである。この方式に基づいて試作LSIを製作し、評価を行った。その成果は現在国際会議へ投稿中（採否通知待ち）である。また、既存のニューラルネットワークモデルの認識精度を保ったまま、この演算器構造で最高効率となるスパースなデータ構造に変形しながら再学習する学習アルゴリズムも提案中である。

より、ニューラルネットワークの1 layer coefficient をgna するメモリと対となった product sum calculator をreconstructed unit としてアレイ-shaped arrangement type, coarse-grained なメモclose type (ニアメモリ) リコンフィギャラブルアクセラレータを卡えてきた. This year's はこの発DevelopmentとしてParallel して発思された、calculator individual calculator ではなくcalculator アレイwhole combinationするindependent control possibleなメモリによでメモリみ出し・Calculation・メモリ书き戻しまでをパイプラインdeal with the way and the attention forceした. In recent years, the processing efficiency of large-scale processing has been improved, and the overall consumption of electricity has been processed separately.が very big きいことから、Once メモリからロードされたデータPossibility of limited reuse (improvement of arithmetic strength) is important. On the one hand, in recent years, the high-speed development of high-speed rails has become a common problem.リアクセスを强いるものが多となり、従来の法でのarithmetic strengthのUPはdifficultyしくなった. This method consists of 1) Calculator and column calculator, which constructs an independent dimension and parallelizes it, and 2) Calculator for Calculator.にSupply and control options availableレシングで行い, adjacent メモリ间でのデータのアラインメンThe トずれを absorbs the するデータ selection mechanism をtakes the れること, 3) the calculator アレイでのcalculates the result の书き戻しもパイプラインThe upper で row う こ と の ３ dot か ら, the irregular な デ ー タ structure に対 し て も calculator の occupancy と arithmetic intensity の maximization を図 る も の で あ る.このWAYにbasedづいてPrototypeLSIをProductionし、Evaluation価を行った. The results are currently being submitted for international conferences (notification of acceptance is awaited).また、The existing のニューラルネットワークモデルの recognition accuracy を宝ったまま、このcalculator structure is the highest Efficiency となるスパースなデータ structuring に変shaped しながらre-learning するlearn アルゴリズムも proposal in である.