权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

An SRAM Computing in Memory to Exploit Energy Efficient Dimensional Separable Compact Machine Learning Model

内存中的 SRAM 计算可利用节能的维度可分离紧凑机器学习模型

基本信息

批准号：
21K11818
负责人：
山内寛行
金额：
$ 2.66万
依托单位：
Fukuoka Institute of Technology
依托单位国家：
日本
项目类别：
Grant-in-Aid for Scientific Research (C)
财政年份：
2021
资助国家：
日本
起止时间：
2021-04-01 至 2024-03-31
项目状态：
已结题

项目摘要

本研究は機械学習用のComputing in Memory (CIM)の構造と省電力化を狙った先端の機械学習モデルとの整合を狙う。1x1ビット演算対応CIMを開発しスパース領域を「動作停止/電源遮断につなげる」。又、残ったスパース領域は「多値表現に適応的に活用し2値化による精度劣化を補償する」等、精度と電力削減のトレードオフの問題を解決することを狙う。当年度は先端のモデルトレンドであるアテンション機構への適用を狙い、1年目に基礎検討しResNet型ネットワーク層実装用の階層化ビット線の設計と制御回路アーキテクチャのアテンション機構への有効性を検証した。表現力とパラメータ数の削減に効果的なチャネルと空間方向のアテンションブロックの検証に集中した。ResNet18ネットワークに加えてチャネルアテンションブロックを追加したSE-ResNET18ネットワークをCifar10のデータセットで学習した場合のスパースア化の状態をSEブロック無しの場合と比較した。アテンション値をバイナリー化した場合の精度への影響を調査した。その結果、アテンション値が0になる特徴マップのチャネルと空間はスパース化してもインファレンスの精度への影響は小さく、1年目に検討した結果よりもさらにスパース化できる領域は広がる可能性が明らかになった。そのため、スパース化による電源遮断可能領域と物理的な回路の電源の階層化の関係は、アテンションモデルを適用した場合でも問題なく、むしろ改善する方向であることが確認できた。その結果を基に、1年目に基礎検討したビット線や読み出し回路の階層化のパターンを何種類か用意すれば、スパース化を活かした電源遮断が可能なことが確認できた。現在の方法を継続しデータを増やしていけば当初の計画通り、次元削減することを実現するために必要な1x1畳込みを階層化で実現するCIM設計が可能なことがわかった。

This study focuses on the structure and integration of Computing in Memory (CIM) for mechanical learning. 1x1 "Operation Stop/Power Interruption" in the field of CIM opening. In addition, in the field of residual state, the problem of precision and power reduction should be solved, such as "multi-value performance, appropriate utilization, accuracy degradation compensation," etc. This paper discusses the application of the system architecture in the first year and the effectiveness of the system architecture in the first year based on the ResNet model. The performance of the performance of the reduction of the number of effects of the spatial direction of the occurrence of the phenomenon of concentration Resnet 18 is a new generation of mobile phones. To investigate the influence of precision in different situations. The result of the study is that the probability of the occurrence of the disease is small, and the result of the study is small. The power supply interruption possibility field and the hierarchical relationship of the power supply of the physical loop are applicable to the problem and the improvement direction. The results are based on the following: 1. The classification of the circuit is based on the classification of the circuit. 2. The current approach to CIM design is to increase the size of the original plan, reduce the size of the plan, and implement the 1x1 plan.

项目成果

期刊论文数量（7）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

A Machine Learning Based Fuel Consumption Saving Method with Time and Environment Dependency Aware Management

DOI：
10.1145/3531028.3531035
发表时间：
2022-03
期刊：
Proceedings of the 2022 5th International Conference on Electronics, Communications and Control Engineering
影响因子：
0
作者：
P. Yu;Hiroyuki Yamauchi
通讯作者：
P. Yu;Hiroyuki Yamauchi

Time and Environment Dependency Aware Fuel Consumption Tracking Method for Improving Drivers and Trucks Management

用于改善驾驶员和卡车管理的时间和环境依赖性感知燃油消耗跟踪方法

DOI：
10.1109/itc-cscc52171.2021.9501436
发表时间：
2021
期刊：
The 36th International Technical Conference on Circuits/Systems, Computers and Communications (ITC-CSCC 2021)
影响因子：
0
作者：
Peng Yu;Jiazheng Xi and Hiroyuki Yamauchi
通讯作者：
Jiazheng Xi and Hiroyuki Yamauchi

次元圧縮とアテンション機能によるチャネル削減を利用した画像認識精度とパラメータ数と計算量の削減手法の最適化の検討

使用注意力函数进行维度压缩和通道减少的图像识别精度、参数数量和计算量减少方法的优化

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
李　鋳峰;山内寛行
通讯作者：
山内寛行

Image Recognition Accuracy, Number of Parameters and Computational Complexity Using Channel Reduction by Dimensional Compression and Attention Function

DOI：
10.1145/3592307.3592308
发表时间：
2023-03
期刊：
Proceedings of the 2023 6th International Conference on Electronics, Communications and Control Engineering
影响因子：
0
作者：
Zhufeng Li;Hiroyuki Yamauchi
通讯作者：
Zhufeng Li;Hiroyuki Yamauchi

Graph Structure Exploration for Reinforcement Learning State Embedding -- Train Tetris Agent with Graph Neural Network

强化学习状态嵌入的图结构探索——用图神经网络训练俄罗斯方块智能体