不正確演算による深層学習向け高効率計算技術

点击翻译按钮获取中文摘要

本研究では人工知能等の実現に有用な深層学習を対象とし，不正確演算を活用した新たな計算技術の創出に向けた基礎検討を行った．従来の計算機において「演算の正確性」は絶対条件であったが，人工知能のように認識処理や推論を行う用途ではそれは必ずしも必要ではない．本研究では従来の計算機における演算の正確性に対する制約を緩和し，ハードウェアおよびアルゴリズムの両面から演算量削減手法の検討を行った．ハードウェアに関しては，デバイスと演算器に関する検討を行った．デバイスについては，RRAMと呼ばれるアナログ受動素子を用い，ニューラルネットワークの主要な計算である積和演算を省面積かつ省電力に実行できる回路構成を検討した．本回路の応用として，組合せ最適化問題を高効率に解くことのできるアニーリングプロセッサを構成し，従来のトランジスタを用いる回路に比べ8倍以上の消費電力削減を実現した．演算器については，1と0の出現頻度により確率的な数値表現を行う計算手法であるストカスティック計算に着目し，従来より省面積な積和演算器の構成を検討した．アルゴリズムに関しては，高精度な画像認識に用いられる畳み込みニューラルネットワーク(CNN)を対象とし，2種類の演算量削減手法を提案した．1つ目は，CNNにおける畳み込み演算を周波数領域で行うことにより，乗算回数を削減する手法を提案した．本手法では従来必要であった，CNNの層間での周波数変換と逆変換処理を不要とすることにより，同等の認識精度を保ったまま乗算回数を半分以下にできることを確認した．2つ目は，動画像に対する物体認識において，動画のフレーム間で動き予測を行うことにより，物体認識に要するCNNの演算量を大幅に削減する手法を提案した．本手法により認識精度の低下を抑えつつ10倍以上の高速化を実現した．