CRII: CNS: Design and System Technology Co-optimization Towards Addressing the Memory Bottleneck Problem of Deep Learning Hardware
CRII:CNS:设计和系统技术协同优化解决深度学习硬件的内存瓶颈问题
基本信息
- 批准号:2153394
- 负责人:
- 金额:$ 17.49万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Standard Grant
- 财政年份:2022
- 资助国家:美国
- 起止时间:2022-07-01 至 2025-06-30
- 项目状态:未结题
- 来源:
- 关键词:
项目摘要
This award is funded in whole or in part under the American Rescue Plan Act of 2021 (Public Law 117-2).Artificial intelligence and deep learning (AI/DL) are influencing a range of areas, including autonomous vehicles, healthcare, cybersecurity, language processing, robotics, gene editing, climate science, and numerous others. Data size is increasing significantly, yielding ever larger data sets and model sizes to achieve desired levels of AI/DL accuracy. Over the last several years, growth in AI compute capability has far exceeded growth in per-accelerator memory capacity, both on-chip and off-chip. Memory has become the key bottleneck in AI/DL hardware, demanding new approaches to resolve this bottleneck. This project includes two key thrusts: (1) Key performance parameters of on-chip and off-chip memory systems will be co-optimized with AI/DL hardware, considering interactions between the Design and Technology (DTCO), and the overall System and Technology (STCO). (2) Emerging Magnetic Random Access Memory (MRAM), chiplets, and packaging interconnect technologies will be utilized to optimally design the hardware.This project will influence novel paradigms for designing high-performance and energy-efficient AI/DL hardware, impacting the development of new AI/DL algorithms – bringing society one step closer to achieving human-level intelligence in machines. With diminishing returns from Moore’s law, STCO and DTCO have recently become emerging paradigms for tuning the technology for the best performance gains in hardware. The outcomes of this work will be instrumental in enriching scientific knowledge in this field and influence future researchers working on other emerging technical domains. Aligned with the goal of establishing United States’ leadership in the AI/DL domain, the efforts of this project are dedicated to achieving excellence in education, workforce development, and outreach through graduate and undergraduate research, mentoring underrepresented and minority students, and promoting AI hardware education at the K-12 level.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
该奖项全部或部分由2021年美国救援计划法案(公法117-2)资助。人工智能和深度学习(AI/DL)正在影响一系列领域,包括自动驾驶汽车、医疗保健、网络安全、语言处理、机器人技术、基因编辑、气候科学等。数据量正在显著增加,产生更大的数据集和模型大小,以实现所需的AI/DL准确度水平。在过去的几年里,人工智能计算能力的增长远远超过了每个加速器内存容量的增长,无论是片上还是片外。内存已经成为AI/DL硬件的关键瓶颈,需要新的方法来解决这个瓶颈。该项目包括两个关键目标:(1)考虑到设计与技术(DTCO)和整体系统与技术(STCO)之间的相互作用,片上和片外存储系统的关键性能参数将与AI/DL硬件共同优化。(2)新兴的磁性随机存取存储器(MRAM)、小芯片和封装互连技术将被用于优化硬件设计,该项目将影响设计高性能和节能AI/DL硬件的新范式,影响新AI/DL算法的开发,使社会更接近机器实现人类水平的智能。随着摩尔定律的收益递减,STCO和DTCO最近已成为调整技术以获得硬件最佳性能增益的新兴范例。这项工作的成果将有助于丰富这一领域的科学知识,并影响未来在其他新兴技术领域工作的研究人员。与建立美国在AI/DL领域的领导地位的目标相一致,该项目的努力致力于通过研究生和本科生的研究,指导代表性不足的学生和少数民族学生,实现卓越的教育,劳动力发展和推广,并在K-12级。该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。
项目成果
期刊论文数量(3)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
System and Design Technology Co-optimization of Chiplet-based AI Accelerator with Machine Learning
基于Chiplet的AI加速器与机器学习的系统和设计技术协同优化
- DOI:10.1145/3583781.3590233
- 发表时间:2023
- 期刊:
- 影响因子:0
- 作者:Mishty, Kaniz;Sadi, Mehdi
- 通讯作者:Sadi, Mehdi
Designing Efficient and High-Performance AI Accelerators With Customized STT-MRAM
- DOI:10.1109/tvlsi.2021.3105958
- 发表时间:2021-10-01
- 期刊:
- 影响因子:2.8
- 作者:Mishty, Kaniz;Sadi, Mehdi
- 通讯作者:Sadi, Mehdi
Analogy-Guided Evolutionary Pretraining of Binary Word Embeddings
类比引导的二进制词嵌入进化预训练
- DOI:
- 发表时间:2022
- 期刊:
- 影响因子:0
- 作者:R. Alexander Knipper, Md. Mahadi
- 通讯作者:R. Alexander Knipper, Md. Mahadi
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Mehdi Sadi其他文献
Soft-HaT
软帽
- DOI:
- 发表时间:
2020 - 期刊:
- 影响因子:0
- 作者:
Md. Mahbub Alam;Adib Nahiyan;Mehdi Sadi;Domenic Forte;M. Tehranipoor - 通讯作者:
M. Tehranipoor
True Random Number Generation using Latency Variations of Commercial MRAM Chips
使用商用 MRAM 芯片的延迟变化生成真正的随机数
- DOI:
- 发表时间:
2021 - 期刊:
- 影响因子:0
- 作者:
F. Ferdaus;B. M. S. B. Talukder;Mehdi Sadi;Md. Tauhidur Rahman - 通讯作者:
Md. Tauhidur Rahman
Test and Yield Loss Reduction of AI and Deep Learning Accelerators
人工智能和深度学习加速器的测试和良率损失降低
- DOI:
- 发表时间:
2021 - 期刊:
- 影响因子:2.9
- 作者:
Mehdi Sadi;Ujjwal Guin - 通讯作者:
Ujjwal Guin
A robust digital sensor IP and sensor insertion flow for in-situ path timing slack monitoring in SoCs
强大的数字传感器 IP 和传感器插入流程,用于 SoC 中的原位路径时序裕度监控
- DOI:
10.1109/vts.2015.7116292 - 发表时间:
2015 - 期刊:
- 影响因子:0
- 作者:
Mehdi Sadi;L. Winemberg;M. Tehranipoor - 通讯作者:
M. Tehranipoor
An efficient all-digital IR-Drop Alarmer for DVFS-based SoC
适用于基于 DVFS 的 SoC 的高效全数字 IR-Drop 警报器
- DOI:
10.1109/iscas.2016.7527210 - 发表时间:
2016 - 期刊:
- 影响因子:0
- 作者:
Liting Yu;Xiaoxiao Wang;Yuanqing Cheng;Xiaoying Zhao;Pengyuan Jiao;Aixin Chen;D. Su;L. Winemberg;Mehdi Sadi;M. Tehranipoor - 通讯作者:
M. Tehranipoor
Mehdi Sadi的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
相似国自然基金
IL-17A通过STAT5影响CNS2区域甲基化抑制调节性T细胞功能在银屑病发病中的作用和机制研究
- 批准号:82304006
- 批准年份:2023
- 资助金额:30 万元
- 项目类别:青年科学基金项目
miR-20a通过调控CD4+T细胞焦亡促进CNS炎性脱髓鞘疾病的发生及机制研究
- 批准号:
- 批准年份:2022
- 资助金额:30 万元
- 项目类别:青年科学基金项目
血浆CNS来源外泌体中寡聚磷酸化α-synuclein对PD病程的提示研究
- 批准号:82101506
- 批准年份:2021
- 资助金额:30 万元
- 项目类别:青年科学基金项目
基于脑微血管内皮细胞模型的毒力岛4在单增李斯特菌CNS炎症中的作用及机制研究
- 批准号:32160834
- 批准年份:2021
- 资助金额:35 万元
- 项目类别:地区科学基金项目
胱硫醚-β-合成酶介导小胶质细胞极化致糖皮质激素CNS毒性作用及机制研究
- 批准号:
- 批准年份:2021
- 资助金额:30 万元
- 项目类别:青年科学基金项目
生物工程化微泡干扰MAPK通路重编程CNS微环境起始脑胶质瘤免疫检查点抑制剂的应答研究
- 批准号:
- 批准年份:2021
- 资助金额:30 万元
- 项目类别:青年科学基金项目
百合中“桉树脑盒”挥发物生物合成关键酶基因CNS的功能解析
- 批准号:32002082
- 批准年份:2020
- 资助金额:24.0 万元
- 项目类别:青年科学基金项目
大气细颗粒物通过NF-κB/LBP-9信号通路诱导小胶质细胞激活加剧CNS脱髓鞘损伤的作用机制研究
- 批准号:82071396
- 批准年份:2020
- 资助金额:55 万元
- 项目类别:面上项目
新型化合物组合抑制STAT6维持Foxp3-CNS2去甲基化产生稳定的iTreg细胞诱导小鼠肾移植免疫耐受的机制研究
- 批准号:82070773
- 批准年份:2020
- 资助金额:57 万元
- 项目类别:面上项目
基于菌群-肠-脑轴探讨柚皮素改善CNS髓鞘脱失的机制研究
- 批准号:
- 批准年份:2020
- 资助金额:50 万元
- 项目类别:
相似海外基金
CRII: CNS: Integrated Sensing and Communication with Optical Wireless: A Retro-reflective Link Design
CRII:CNS:光学无线集成传感和通信:回归反射链路设计
- 批准号:
2245747 - 财政年份:2023
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
Collaborative Research: CISE-MSI: RCBP-RF: CNS: ESD4CDaT - Efficient System Design for Cancer Detection and Treatment
合作研究:CISE-MSI:RCBP-RF:CNS:ESD4CDaT - 癌症检测和治疗的高效系统设计
- 批准号:
2318573 - 财政年份:2023
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
Collaborative Research: CISE-MSI: RCBP-RF: CNS: ESD4CDaT - Efficient System Design for Cancer Detection and Treatment
合作研究:CISE-MSI:RCBP-RF:CNS:ESD4CDaT - 癌症检测和治疗的高效系统设计
- 批准号:
2318574 - 财政年份:2023
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
Collaborative Research: CNS Core: Small: Privacy by Memory Design
合作研究:CNS 核心:小型:内存设计的隐私
- 批准号:
2211215 - 财政年份:2022
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
GOALI: CNS: Medium: Communication-Computation Co-Design for Rural Connectivtiy and Intelligence under Nonuniformity: Modeling, Analysis, and Implementation
目标:CNS:媒介:非均匀性下农村互联和智能的通信计算协同设计:建模、分析和实现
- 批准号:
2212565 - 财政年份:2022
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
CNS Core: Medium: Design and Deployment of Bespoke Congestion Control Algorithms
CNS 核心:中:定制拥塞控制算法的设计和部署
- 批准号:
2212390 - 财政年份:2022
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
Collaborative Research: CNS Core: Small: Privacy by Memory Design
合作研究:CNS 核心:小型:内存设计的隐私
- 批准号:
2211214 - 财政年份:2022
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
NSF-AoF: CNS Core: Small: CRUISE: A Cross-system Architecture Design for Autonomous Wireless Networks based on Lifelong Machine Learning
NSF-AoF:CNS 核心:小型:CRUISE:基于终身机器学习的自主无线网络的跨系统架构设计
- 批准号:
2225427 - 财政年份:2022
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
Collaborative Research: CNS Core: Small: Privacy by Memory Design
合作研究:CNS 核心:小型:内存设计的隐私
- 批准号:
2247273 - 财政年份:2022
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant
CNS Core: Small: CNN-Accelerator Co-Design
CNS 核心:小型:CNN 加速器协同设计
- 批准号:
2216746 - 财政年份:2022
- 资助金额:
$ 17.49万 - 项目类别:
Standard Grant