CNS: CSR: Small: Exploiting 3D Memory for Energy-Efficient Memory-Driven Computing
CNS:CSR:小型:利用 3D 内存实现节能内存驱动计算
基本信息
- 批准号:1643351
- 负责人:
- 金额:$ 49.78万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Standard Grant
- 财政年份:2016
- 资助国家:美国
- 起止时间:2016-10-01 至 2020-09-30
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
Semiconductor technology is facing fundamental physical limits creating an increased demand for acceleration of data-intensive applications on architectures that bring memory much closer to reconfigurable compute logic. Three dimensional integrated circuits (3DIC) appear to be the most prominent technology towards memory-driven computing by enabling large amounts of memory stacked in layers to be accessed by a logic unit using high bandwidth vertical interconnects. Software-defined technologies can provide the framework for harnessing the potential breakthrough performance of 3D and other advanced memory technologies in a holistic but dynamic manner, while at the same time hiding their internal complexity. This project focuses on developing a novel software paradigm to perform algorithmic exploration of memory-driven computing on new memory architectures and facilitate the development of massively parallel algorithms for memory-unconstrained computing with the potential for breakthrough performance levels. The project will develop Software-Defined 3D Memory (SD3DM) as a transformative layer for memory-driven computing that will not simply virtualize 3D memory but will holistically address the oncoming reality of massive on-chip 3D Memory for accelerating data-intensive applications while jointly optimizing energy consumption. Memory access optimizations will be developed at the algorithm level to meet application performance objectives of throughput, latency, and energy efficiency. Specifically, the optimizations will be designed to fully exploit the characteristics of target architectures by (i) carefully defining application-specific dynamic data layouts, (ii) developing application-specific memory controllers for runtime support, and (iii) designing novel in-memory data permutation mechanisms to accelerate inter-stage communication. Integer Linear Programming (ILP) and Stochastic Programming (SP) based dynamic data layouts that exploit the interlayer pipelining and parallel vault access features of 3D memory for throughput and energy-optimal mapping of data to different memory components will be developed. Data layout algorithms will be developed in in conjunction with application-specific memory controllers to provide maximum pipeline execution efficiency for any given application. The proposed optimizations will be demonstrated on widely used signal processing and machine learning algorithms with diverse data access and logic use requirements. Successful completion of this project will directly lead to a significant increase in the size of signal processing and machine learning problems that can be solved on emerging 3DIC platforms at speeds that were not possible before. The developed work will potentially influence multiple application domains. The investigators will encourage the participation by women, minorities, and under-represented groups in the project through USC's Minority Opportunities in Research (MORE) Programs.
半导体技术正面临着基本的物理限制,这使得对加速架构上的数据密集型应用的需求增加,这些架构使存储器更接近可重构计算逻辑。三维集成电路(3DIC)似乎是朝向存储器驱动的计算的最突出的技术,其通过使得能够由使用高带宽垂直互连的逻辑单元访问堆叠在层中的大量存储器。软件定义技术可以提供一个框架,以整体但动态的方式利用3D和其他先进存储技术的潜在突破性性能,同时隐藏其内部复杂性。该项目的重点是开发一种新的软件范例,以在新的内存架构上进行内存驱动计算的算法探索,并促进开发具有突破性能水平潜力的内存无约束计算的大规模并行算法。 该项目将开发软件定义的3D内存(SD3DM)作为内存驱动计算的变革层,不仅将3D内存虚拟化,还将全面解决即将到来的大规模片上3D内存的现实,以加速数据密集型应用,同时共同优化能耗。将在算法级别开发内存访问优化,以满足吞吐量、延迟和能效等应用程序性能目标。具体来说,优化将被设计为通过以下方式充分利用目标架构的特征:(i)仔细定义特定于应用程序的动态数据布局,(ii)开发特定于应用程序的内存控制器以提供运行时支持,以及(iii)设计新颖的内存中数据置换机制以加速级间通信。将开发基于线性规划(ILP)和随机规划(SP)的动态数据布局,这些动态数据布局利用3D存储器的层间流水线和并行存储库访问功能,以实现数据到不同存储器组件的吞吐量和能量优化映射。数据布局算法将与特定应用程序的存储器控制器一起开发,为任何给定的应用程序提供最大的流水线执行效率。提出的优化将在广泛使用的信号处理和机器学习算法上进行演示,这些算法具有不同的数据访问和逻辑使用要求。该项目的成功完成将直接导致信号处理和机器学习问题的规模显著增加,这些问题可以在新兴的3DIC平台上以以前不可能的速度解决。开发的工作将潜在地影响多个应用领域。调查人员将鼓励妇女,少数民族和代表性不足的群体通过南加州大学的少数民族研究机会(更多)计划参与该项目。
项目成果
期刊论文数量(13)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
QTAccel: A Generic FPGA based Design for Q-Table based Reinforcement Learning Accelerators
QTAccel:基于 Q-Table 的强化学习加速器的通用 FPGA 设计
- DOI:10.1109/ipdpsw50202.2020.00024
- 发表时间:2020
- 期刊:
- 影响因子:0
- 作者:Meng, Yuan;Kuppannagari, Sanmukh;Rajat, Rachit;Srivastava, Ajitesh;Kannan, Rajgopal;Prasanna, Viktor
- 通讯作者:Prasanna, Viktor
Throughput-Optimized Frequency Domain CNN with Fixed-Point Quantization on FPGA
FPGA 上具有定点量化的吞吐量优化频域 CNN
- DOI:10.1109/reconfig.2018.8641716
- 发表时间:2018
- 期刊:
- 影响因子:0
- 作者:Sun, Weiyi;Zeng, Hanqing;Yang, Yi-hua Edward;Prasanna, Viktor
- 通讯作者:Prasanna, Viktor
Accelerating Large Scale GCN Inference on FPGA
- DOI:10.1109/fccm48280.2020.00074
- 发表时间:2020-05
- 期刊:
- 影响因子:0
- 作者:Bingyi Zhang;Hanqing Zeng;V. Prasanna
- 通讯作者:Bingyi Zhang;Hanqing Zeng;V. Prasanna
FASTCF: FPGA-based Accelerator for STochastic-Gradient-Descent-based Collaborative Filtering
- DOI:10.1145/3174243.3174252
- 发表时间:2018-02
- 期刊:
- 影响因子:0
- 作者:Shijie Zhou;R. Kannan;Yu Min;V. Prasanna
- 通讯作者:Shijie Zhou;R. Kannan;Yu Min;V. Prasanna
A Flexible Design Automation Tool for Accelerating Quantized Spectral CNNs
- DOI:10.1109/fpl.2019.00031
- 发表时间:2019-09
- 期刊:
- 影响因子:0
- 作者:Rachit Rajat;Hanqing Zeng;V. Prasanna
- 通讯作者:Rachit Rajat;Hanqing Zeng;V. Prasanna
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Viktor Prasanna其他文献
Accelerating Deep Neural Network guided MCTS using Adaptive Parallelism
使用自适应并行加速深度神经网络引导的 MCTS
- DOI:
- 发表时间:
2023 - 期刊:
- 影响因子:0
- 作者:
Yuan Meng;Qian Wang;Tianxin Zu;Viktor Prasanna - 通讯作者:
Viktor Prasanna
PEARL: Enabling Portable, Productive, and High-Performance Deep Reinforcement Learning using Heterogeneous Platforms
PEARL:使用异构平台实现便携式、高效且高性能的深度强化学习
- DOI:
10.1145/3649153.3649193 - 发表时间:
2024 - 期刊:
- 影响因子:0
- 作者:
Yuan Meng;Michael Kinsner;Deshanand Singh;Mahesh Iyer;Viktor Prasanna - 通讯作者:
Viktor Prasanna
Accelerating GNN Training on CPU+Multi-FPGA Heterogeneous Platform
在 CPU 多 FPGA 异构平台上加速 GNN 训练
- DOI:
- 发表时间:
2022 - 期刊:
- 影响因子:0
- 作者:
Yi-Chien Lin;Bingyi Zhang;Viktor Prasanna - 通讯作者:
Viktor Prasanna
Guest Editorial: Computing Frontiers
- DOI:
10.1007/s10766-013-0240-2 - 发表时间:
2013-01-31 - 期刊:
- 影响因子:0.900
- 作者:
Calin Cascaval;Pedro Trancoso;Viktor Prasanna - 通讯作者:
Viktor Prasanna
Viktor Prasanna的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
{{ truncateString('Viktor Prasanna', 18)}}的其他基金
IUCRC Phase I University of Southern California: Center for Intelligent Distributed Embedded Applications and Systems (IDEAS)
IUCRC 第一期南加州大学:智能分布式嵌入式应用和系统中心 (IDEAS)
- 批准号:
2231662 - 财政年份:2023
- 资助金额:
$ 49.78万 - 项目类别:
Continuing Grant
Elements: Portable Library for Homomorphic Encrypted Machine Learning on FPGA Accelerated Cloud Cyberinfrastructure
元素:FPGA 加速云网络基础设施上同态加密机器学习的便携式库
- 批准号:
2311870 - 财政年份:2023
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
OAC Core: Scalable Graph ML on Distributed Heterogeneous Systems
OAC 核心:分布式异构系统上的可扩展图 ML
- 批准号:
2209563 - 财政年份:2022
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
SaTC: CORE: Small: Accelerating Privacy Preserving Deep Learning for Real-time Secure Applications
SaTC:核心:小型:加速实时安全应用程序的隐私保护深度学习
- 批准号:
2104264 - 财政年份:2021
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
Collaborative Research:PPoSS:Planning: Streamware - A Scalable Framework for Accelerating Streaming Data Science
合作研究:PPoSS:规划:Streamware - 加速流数据科学的可扩展框架
- 批准号:
2119816 - 财政年份:2021
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
RAPID: ReCOVER: Accurate Predictions and Resource Allocation for COVID-19 Epidemic Response
RAPID:ReCOVER:COVID-19 流行病应对的准确预测和资源分配
- 批准号:
2027007 - 财政年份:2020
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CNS Core: Small: AccelRITE: Accelerating ReInforcemenT Learning based AI at the Edge Using FPGAs
CNS 核心:小型:AccelRITE:使用 FPGA 在边缘加速基于强化学习的 AI
- 批准号:
2009057 - 财政年份:2020
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
OAC Core: Small: Scalable Graph Analytics on Emerging Cloud Infrastructure
OAC 核心:小型:新兴云基础设施上的可扩展图形分析
- 批准号:
1911229 - 财政年份:2019
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
FoMR: DeepFetch: Compact Deep Learning based Prefetcher on Configurable Hardware
FoMR:DeepFetch:可配置硬件上基于紧凑深度学习的预取器
- 批准号:
1912680 - 财政年份:2019
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
EAGER: Safer Connected Communities Through Integrated Data-driven Modeling, Learning, and Optimization
EAGER:通过集成的数据驱动建模、学习和优化打造更安全的互联社区
- 批准号:
1637372 - 财政年份:2016
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
相似国自然基金
基于经筋理论的筋针与整脊联合疗法治疗 CSR疼痛的临床应用研究
- 批准号:
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
RAC2(G15D)突变参与B细胞 Ig-CSR过程的分子机制研究
- 批准号:2025JJ80630
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
基于CRISPR/CasRx调控CSR1基因表达预防氨基糖甙类耳毒性聋研究
- 批准号:2024Y9183
- 批准年份:2024
- 资助金额:25.0 万元
- 项目类别:省市级项目
基于Piezo机械敏感通道探讨奉伸松调法调控颈肌细胞自噬与DRG痛觉感受神经元可塑性治疗CSR的作用机制
- 批准号:
- 批准年份:2024
- 资助金额:0 万元
- 项目类别:地区科学基金项目
准社会互动视角下CSR数字化沟通对品牌绩效的差异化影响、机制与管理对策
- 批准号:72362008
- 批准年份:2023
- 资助金额:28 万元
- 项目类别:地区科学基金项目
善行得善果?后疫情时代嵌入式和边缘式CSR对员工幸福感的跨层影响研究
- 批准号:72102183
- 批准年份:2021
- 资助金额:24.00 万元
- 项目类别:青年科学基金项目
善行得善果?后疫情时代嵌入式和边缘式CSR对员工幸福感的跨层影响研究
- 批准号:
- 批准年份:2021
- 资助金额:30 万元
- 项目类别:
基于脊髓突触可塑性探讨“调气”电针远端腧穴干预CSR模型大鼠的中枢镇痛效应及机制研究
- 批准号:82160934
- 批准年份:2021
- 资助金额:34 万元
- 项目类别:地区科学基金项目
利用输运模型和机器学习方法研究CSR能区的低温高密核物质
- 批准号:U2032145
- 批准年份:2020
- 资助金额:50.0 万元
- 项目类别:联合基金项目
基于兰州HIRFL-CSR装置对轻原子核的团簇结构及晕结构的理论研究
- 批准号:U2032137
- 批准年份:2020
- 资助金额:60.0 万元
- 项目类别:联合基金项目
相似海外基金
CSR: Small: Leveraging Physical Side-Channels for Good
CSR:小:利用物理侧通道做好事
- 批准号:
2312089 - 财政年份:2024
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: Multi-FPGA System for Real-time Fraud Detection with Large-scale Dynamic Graphs
CSR:小型:利用大规模动态图进行实时欺诈检测的多 FPGA 系统
- 批准号:
2317251 - 财政年份:2024
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: Latency-controlled Reduction of Data Center Expenses for Handling Bursty ML Inference Requests
CSR:小:通过延迟控制减少数据中心处理突发 ML 推理请求的费用
- 批准号:
2336886 - 财政年份:2024
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: Modernizing Dynamic Binary Translation Systems
CSR:小型:现代化动态二进制翻译系统
- 批准号:
2330752 - 财政年份:2024
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: Cross-Layer Solutions Enabling Instant Computing for Edge Intelligence Devices
CSR:小:跨层解决方案为边缘智能设备提供即时计算
- 批准号:
2247156 - 财政年份:2024
- 资助金额:
$ 49.78万 - 项目类别:
Continuing Grant
CSR: Small: Elastic Soft State Cache as an OS Service
CSR:小型:弹性软状态缓存作为操作系统服务
- 批准号:
2330831 - 财政年份:2024
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: CONCERT: Designing Scalable Communication Runtimes with On-the-fly Compression for HPC and AI Applications on Heterogeneous Architectures
CSR:小型:CONCERT:为异构架构上的 HPC 和 AI 应用程序设计具有动态压缩的可扩展通信运行时
- 批准号:
2312927 - 财政年份:2023
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: Enhancing Timeliness and Power-Efficiency of Real-Time Data Services
CSR:小:提高实时数据服务的及时性和能效
- 批准号:
2326796 - 财政年份:2023
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: Processing-in-Memory enabled Manycore Systems to Accelerate Graph Neural Network-based Data Analytics
CSR:小型:启用内存处理的众核系统可加速基于图神经网络的数据分析
- 批准号:
2308530 - 财政年份:2023
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant
CSR: Small: Learning and Management in Tiered Memory Systems
CSR:小:分层内存系统中的学习和管理
- 批准号:
2323100 - 财政年份:2023
- 资助金额:
$ 49.78万 - 项目类别:
Standard Grant