CORF: Coalescing Operand Register File for GPUs
CORF: Coalescing Operand Register File for GPUs
复制标题
CORF：GPU 的合并操作数寄存器文件
DOI：
10.1145/3297858.3304026
复制
发表时间：
2019
期刊：
影响因子：
--
通讯作者：
Abu-Ghazaleh, Nael
中科院分区：
文献类型：
--
作者：
Asghari Esfeden, Hodjat;Khorasani, Farzad;Jeon, Hyeran;Wong, Daniel;Abu-Ghazaleh, Nael
GPU 中的寄存器文件 (RF) 是一个关键结构，它维护支持 GPU 处理模型的数千个线程的状态。 RF 组织极大地影响 GPU 的整体性能和能效。例如，对 RF 的频繁访问会消耗大量的动态能量，并且由于操作数收集器和寄存器文件组上的有限端口而导致的端口争用会影响寄存器操作串行化的性能。我们提出了 CORF，一种编译器辅助的合并操作数寄存器文件，它通过将对单个指令所需的多个寄存器的读取组合成单个物理读取来执行寄存器合并。为了实现寄存器合并，CORF 利用寄存器打包将窄宽度操作数共同定位在同一物理寄存器中。 CORF 使用编译器提示来识别哪些寄存器对通常一起访问。 CORF 通过减少物理寄存器文件访问次数来节省动态能量，并通过组合读取操作以及减少寄存器文件的压力来提高性能。为了增加合并机会，我们重新构建了物理寄存器文件，以允许跨驻留在互斥子库中的不同物理寄存器进行合并读取；我们称这种设计为 CORF++。 CORF++ 寄存器分配的编译器分析变成了一种图形着色形式，称为二分边缘挫败问题。 CORF++使射频动态能量降低17%，IPC提升9%。
The Register File (RF) in GPUs is a critical structure that maintains the state for thousands of threads that support the GPU processing model. The RF organization substantially affects the overall performance and the energy efficiency of a GPU. For example, the frequent accesses to the RF consume a substantial amount of the dynamic energy, and port contention due to limited ports on operand collectors and register file banks affect performance as register operations are serialized. We present CORF, a compiler-assisted Coalescing Operand Register File which performs register coalescing by combining reads to multiple registers required by a single instruction, into a single physical read. To enable register coalescing, CORF utilizes register packing to co-locate narrow-width operands in the same physical register. CORF uses compiler hints to identify which register pairs are commonly accessed together. CORF saves dynamic energy by reducing the number of physical register file accesses, and improves performance by combining read operations, as well as by reducing pressure on the register file. To increase the coalescing opportunities, we re-architect the physical register file to allow coalescing reads across different physical registers that reside in mutually exclusive sub-banks; we call this design CORF++. The compiler analysis for register allocation for CORF++ becomes a form of graph coloring called the bipartite edge frustration problem. CORF++ reduces the dynamic energy of the RF by 17%, and improves IPC by 9%.
登录
查看更多内容
Bingo 空间数据预取器
DOI：
10.1109/hpca.2019.00053
发表时间：
2019
期刊：
2019 IEEE International Symposium on High Performance Computer Architecture (HPCA)
影响因子：
--
作者：
Mohammad Bakhshalipour;Mehran Shakerinava;Pejman Lotfi;H. Sarbazi
通讯作者：
H. Sarbazi
均衡器：动态调整 GPU 资源以实现高效执行
DOI：
10.1109/micro.2014.16
发表时间：
2014
期刊：
2014 47th Annual IEEE/ACM International Symposium on Microarchitecture
影响因子：
--
作者：
Ankit Sethia;S. Mahlke
通讯作者：
S. Mahlke
Tango：适用于各种加速器的深度神经网络基准套件
DOI：
10.1109/ispass.2019.00021
发表时间：
2019
期刊：
2019 IEEE International Symposium on Performance Analysis of Systems and Software (ISPASS)
影响因子：
--
作者：
A. Karki;Chethan Palangotu Keshava;Spoorthi Mysore Shivakumar;Joshua Skow;Goutam Madhukeshwar Hegde;Hyeran Jeon
通讯作者：
Hyeran Jeon
众核处理器的快速数据传输
影响因子：
3.7
作者：
Mohammad Bakhshalipour;Pejman Lotfi;Abbas Mazloumi;Farid Samandi;Mahmood Naderan;M. Modarressi;H. Sarbazi
通讯作者：
H. Sarbazi
DOI：
10.1145/3130218.3130222
发表时间：
2017-10
期刊：
2017 Eleventh IEEE/ACM International Symposium on Networks-on-Chip (NOCS)
影响因子：
--
作者：
Amirhossein Mirhosseini;Mohammad Sadrosadati;Behnaz Soltani;H. Sarbazi-Azad;T. Wenisch
通讯作者：
Amirhossein Mirhosseini;Mohammad Sadrosadati;Behnaz Soltani;H. Sarbazi-Azad;T. Wenisch