权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

不正確演算による深層学習向け高効率計算技術

使用不精确计算的深度学习高效计算技术

基本信息

批准号：
18H03214
负责人：
廣本正之
金额：
$ 11.07万
依托单位：
Kyoto University
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (B)
财政年份：
2018
资助国家：
日本
起止时间：
2018-04-01 至 2021-03-31
项目状态：
已结题

项目摘要

本研究では人工知能等の実現に有用な深層学習を対象とし，不正確演算を活用した新たな計算技術の創出に向けた基礎検討を行った．従来の計算機において「演算の正確性」は絶対条件であったが，人工知能のように認識処理や推論を行う用途ではそれは必ずしも必要ではない．本研究では従来の計算機における演算の正確性に対する制約を緩和し，ハードウェアおよびアルゴリズムの両面から演算量削減手法の検討を行った．ハードウェアに関しては，デバイスと演算器に関する検討を行った．デバイスについては，RRAMと呼ばれるアナログ受動素子を用い，ニューラルネットワークの主要な計算である積和演算を省面積かつ省電力に実行できる回路構成を検討した．本回路の応用として，組合せ最適化問題を高効率に解くことのできるアニーリングプロセッサを構成し，従来のトランジスタを用いる回路に比べ8倍以上の消費電力削減を実現した．演算器については，1と0の出現頻度により確率的な数値表現を行う計算手法であるストカスティック計算に着目し，従来より省面積な積和演算器の構成を検討した．アルゴリズムに関しては，高精度な画像認識に用いられる畳み込みニューラルネットワーク(CNN)を対象とし，2種類の演算量削減手法を提案した．1つ目は，CNNにおける畳み込み演算を周波数領域で行うことにより，乗算回数を削減する手法を提案した．本手法では従来必要であった，CNNの層間での周波数変換と逆変換処理を不要とすることにより，同等の認識精度を保ったまま乗算回数を半分以下にできることを確認した．2つ目は，動画像に対する物体認識において，動画のフレーム間で動き予測を行うことにより，物体認識に要するCNNの演算量を大幅に削減する手法を提案した．本手法により認識精度の低下を抑えつつ10倍以上の高速化を実現した．

This study is based on the discovery of artificial intelligence and the application of new computing techniques. In the case of computer science, the legitimacy of calculation is the opposite of absolute conditions, and human knowledge is the opposite of cognitive processing and inference. In this study, we aim to alleviate the constraints of the legitimacy of computer algorithms, and to explore ways to reduce computational complexity. The problem is that if you don't have a computer, you're not going to have a computer. RRAM is used to calculate the product sum of the main components, save area, save power, and implement the loop structure. This loop is used to optimize the combination of high efficiency solution, high efficiency solution. The algorithm is divided into two parts: 1 and 0, the frequency of occurrence, the accuracy, the numerical value, the calculation method, the calculation method, the area product, and the composition of the algorithm. 2 kinds of algorithm reduction methods are proposed for high precision image recognition (CNN). 1. The algorithm reduction method is proposed for CNN in the frequency domain. This method is necessary to reduce CNN's calculation amount between layers, and to reduce CNN's calculation amount greatly. This technique is aimed at reducing the accuracy of cognition by more than 10 times and achieving higher speed.