Collaborative Research: FuSe: Efficient Situation-Aware AI Processing in Advanced 2-Terminal SOT-MRAM

合作研究:FuSe:先进 2 端子 SOT-MRAM 中的高效态势感知 AI 处理

基本信息

  • 批准号:
    2414603
  • 负责人:
  • 金额:
    $ 70万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Continuing Grant
  • 财政年份:
    2023
  • 资助国家:
    美国
  • 起止时间:
    2023-10-01 至 2026-09-30
  • 项目状态:
    未结题

项目摘要

The amount of data required to be analyzed by computing systems has been increasing drastically to exascale (i.e., billions of gigabytes) and beyond. Meanwhile, owing to the boom in artificial intelligence (AI), especially Deep Neural Network (DNN), there is a need for high performance, efficient, fast, and adaptive AI-based big data processing systems. However, those requirements are not sufficiently met by existing computing solutions due to the power-wall in silicon-based semiconductor devices, memory-wall in traditional Von-Neuman computing architecture, and ultra computation- and memory-intensive DNN-based AI algorithms. This project brings together an interdisciplinary group of researchers, with expertise spanning from material science, device fabrication, integrated circuit design, computer architecture, and AI algorithms to undertake innovative device-circuit-algorithm co-design for developing an AI Processing-In-Memory (AI-PIM) system that could leverage the emerging non-volatile magnetic memory technology to implement efficient AI data processing, as well as situation-aware on-chip continual learning. This project targets to significantly improve the AI data processing energy efficiency, with 100X higher efficiency than that of state-of-the-art Graph Processing Units (GPUs). The project will greatly benefit various application areas, such as autonomous driving, robotics, personalized cognitive speech, and smart connected health, etc. This project will also involve education and workforce development activities, including K-12 STEM outreach, undergraduate/graduate training, curriculum development in semiconductor, semiconductor industry internship mentoring, cleanroom fab internships, advance integrated circuit design courses. It will also encourage broader participation of female and under-represented minorities in the microelectronics and semiconductor chip industry. This project will advance knowledge and conduct cross-layer research spanning from emerging Spin-Orbit Torque Magnetic Random Access Memory (SOT-MRAM) material, device, circuit, architecture, to AI algorithm exploration with three main interweaved thrusts. Thrust 1 will explore unconventional spins in SOT materials, e.g., MnPd3, and novel device geometry to fabricate a new design of 2-terminal SOT-MRAM, which simultaneously delivers unlimited endurance, nano-seconds programming time, very high cell density, deterministic programming without external magnetic field, zero leakage, and non-volatility. Leveraging the developed 2-terminal SOT-MRAM, Thrust 2 will design and tape-out an AI Processing-in-Memory (PIM) chip to implement fully digital ‘in-memory sparse multiplication-and-accumulation (MAC)’ operations that support both forward and backward computations of neural networks. Following a co-design methodology, Thrust 3 will first investigate automated network architecture search methods to construct AI model best suitable for given situation while considering our AI-PIM system constraint. This thrust will further develop novel PIM-friendly, compute- and memory-efficient, situation-aware continual learning algorithms that could minimize the power-hungry on-chip weight update (i.e., memory write) complexity, while learning new situation- and user-specific data.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
需要由计算系统分析的数据量已经急剧增加到兆兆(exascale)(即,数十亿千兆字节)和更大。与此同时,由于人工智能(AI),特别是深度神经网络(DNN)的蓬勃发展,需要高性能,高效,快速和自适应的基于AI的大数据处理系统。然而,由于硅基半导体器件中的功率墙、传统冯-纽曼计算架构中的存储器墙以及基于DNN的超计算和存储密集型AI算法,现有计算解决方案无法充分满足这些要求。该项目汇集了一个跨学科的研究人员小组,具有材料科学,设备制造,集成电路设计,计算机架构和AI算法的专业知识,以进行创新的设备-电路-算法协同设计,用于开发AI内存处理(AI-PIM)系统,该系统可以利用新兴的非易失性磁存储器技术来实现高效的AI数据处理,以及情况感知的片上持续学习。该项目旨在显著提高AI数据处理的能效,其效率比最先进的图形处理单元(GPU)高出100倍。该项目还将涉及教育和劳动力发展活动,包括K-12 STEM推广,本科生/研究生培训,半导体课程开发,半导体行业实习指导,洁净室工厂实习,先进的集成电路设计课程。它还将鼓励女性和代表性不足的少数族裔更广泛地参与微电子和半导体芯片行业。该项目将推进知识,并进行跨层研究,从新兴的自旋轨道扭矩磁性随机存取存储器(SOT-MRAM)材料,器件,电路,架构,到AI算法探索,三个主要交织的推力。推力1将探索SOT材料中的非常规自旋,例如,MnPd 3和新颖的器件几何结构来制造一种新的双端SOT-MRAM设计,它同时提供无限的耐久性、纳秒级编程时间、非常高的单元密度、无外部磁场的确定性编程、零泄漏和非易失性。利用开发的双端SOT-MRAM,Thrust 2将设计和流片一个AI内存处理(PIM)芯片,以实现全数字的“内存稀疏乘法和累加(MAC)”操作,支持神经网络的前向和后向计算。根据协同设计方法,Thrust 3将首先研究自动网络架构搜索方法,以构建最适合给定情况的AI模型,同时考虑我们的AI-PIM系统约束。这一推动将进一步开发新颖的PIM友好的、计算和存储器高效的、情境感知的持续学习算法,这些算法可以最小化耗电的片上权重更新(即,该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Deliang Fan其他文献

Ultra-Low power neuromorphic computing with spin-torque devices
使用自旋扭矩设备的超低功耗神经拟态计算
High performance and energy-efficient in-memory computing architecture based on SOT-MRAM
基于SOT-MRAM的高性能、高能效内存计算架构
Hybrid polymorphic logic gate using 6 terminal magnetic domain wall motion device
使用6端磁畴壁运动器件的混合多态逻辑门
Leveraging All-Spin Logic to Improve Hardware Security
利用全自旋逻辑提高硬件安全性
Computing with Spin-Transfer-Torque Devices: Prospects and Perspectives
使用自旋转移矩装置进行计算:前景与展望

Deliang Fan的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Deliang Fan', 18)}}的其他基金

Collaborative Research: SaTC: CORE: Small: Understanding and Taming Deterministic Model Bit Flip attacks in Deep Neural Networks
协作研究:SaTC:核心:小型:理解和驯服深度神经网络中的确定性模型位翻转攻击
  • 批准号:
    2342618
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Standard Grant
Collaborative Research: FuSe: Efficient Situation-Aware AI Processing in Advanced 2-Terminal SOT-MRAM
合作研究:FuSe:先进 2 端子 SOT-MRAM 中的高效态势感知 AI 处理
  • 批准号:
    2328803
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
FET: Small: AlignMEM: Fast and Efficient DNA Sequence Alignment in Non-Volatile Magnetic RAM
FET:小型:AlignMEM:非易失性磁性 RAM 中快速高效的 DNA 序列比对
  • 批准号:
    2349802
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Standard Grant
CAREER: Efficient, Dynamic, Robust, and On-Device Continual Deep Learning with Non-Volatile Memory based In-Memory Computing System
职业:使用基于非易失性内存的内存计算系统进行高效、动态、鲁棒、设备上持续深度学习
  • 批准号:
    2342726
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: SaTC: CORE: Small: Secure and Robust Machine Learning in Multi-Tenant Cloud FPGA
协作研究:SaTC:CORE:小型:多租户云 FPGA 中安全且稳健的机器学习
  • 批准号:
    2411207
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Standard Grant
Collaborative Research: SaTC: CORE: Small: Secure and Robust Machine Learning in Multi-Tenant Cloud FPGA
协作研究:SaTC:CORE:小型:多租户云 FPGA 中安全且稳健的机器学习
  • 批准号:
    2153525
  • 财政年份:
    2022
  • 资助金额:
    $ 70万
  • 项目类别:
    Standard Grant
CAREER: Efficient, Dynamic, Robust, and On-Device Continual Deep Learning with Non-Volatile Memory based In-Memory Computing System
职业:使用基于非易失性内存的内存计算系统进行高效、动态、鲁棒、设备上持续深度学习
  • 批准号:
    2144751
  • 财政年份:
    2022
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: SaTC: CORE: Small: Understanding and Taming Deterministic Model Bit Flip attacks in Deep Neural Networks
协作研究:SaTC:核心:小型:理解和驯服深度神经网络中的确定性模型位翻转攻击
  • 批准号:
    2019548
  • 财政年份:
    2020
  • 资助金额:
    $ 70万
  • 项目类别:
    Standard Grant
E2CDA: Type II: Non-Volatile In-Memory Processing Unit: Memory, In-Memory Logic and Deep Neural Network
E2CDA:II 类:非易失性内存中处理单元:内存、内存中逻辑和深度神经网络
  • 批准号:
    2005209
  • 财政年份:
    2019
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
FET: Small: AlignMEM: Fast and Efficient DNA Sequence Alignment in Non-Volatile Magnetic RAM
FET:小型:AlignMEM:非易失性磁性 RAM 中快速高效的 DNA 序列比对
  • 批准号:
    2003749
  • 财政年份:
    2019
  • 资助金额:
    $ 70万
  • 项目类别:
    Standard Grant

相似国自然基金

复杂电子产品超精密加工及检测关键技术研究与应用
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
基于合成生物学的动物底盘品种优化及中试应用研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
运用组学整合技术探索萆薢分清散联合化疗治疗晚期胰腺癌的临床研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
九里香等提取物多靶向制剂抗肺癌的作用及机制研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
升血小板方治疗原发免疫性血小板减少症的临床研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
八髎穴微波热疗在女性膀胱过度活动症治疗中的价值研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
基于 miR-455-5p 介导的氧化应激机制探讨糖尿病视网膜病变中医分型治疗的临床研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
基于 UPLC-Q-TOF-MS/MS 分析的 异功散活性成分评价及提取工艺研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
无创电针对于痉挛型双瘫脑 瘫患儿的有效性与安全性研究:一项随机 单盲前瞻性队列研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
弹压式手法与体外冲击波治疗肱骨外上髁炎的对比研究
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目

相似海外基金

Collaborative Research: FuSe: R3AP: Retunable, Reconfigurable, Racetrack-Memory Acceleration Platform
合作研究:FuSe:R3AP:可重调、可重新配置、赛道内存加速平台
  • 批准号:
    2328975
  • 财政年份:
    2024
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: R3AP: Retunable, Reconfigurable, Racetrack-Memory Acceleration Platform
合作研究:FuSe:R3AP:可重调、可重新配置、赛道内存加速平台
  • 批准号:
    2328973
  • 财政年份:
    2024
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: R3AP: Retunable, Reconfigurable, Racetrack-Memory Acceleration Platform
合作研究:FuSe:R3AP:可重调、可重新配置、赛道内存加速平台
  • 批准号:
    2328972
  • 财政年份:
    2024
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: R3AP: Retunable, Reconfigurable, Racetrack-Memory Acceleration Platform
合作研究:FuSe:R3AP:可重调、可重新配置、赛道内存加速平台
  • 批准号:
    2328974
  • 财政年份:
    2024
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: Metaoptics-Enhanced Vertical Integration for Versatile In-Sensor Machine Vision
合作研究:FuSe:Metaoptics 增强型垂直集成,实现多功能传感器内机器视觉
  • 批准号:
    2416375
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: Indium selenides based back end of line neuromorphic accelerators
合作研究:FuSe:基于硒化铟的后端神经形态加速器
  • 批准号:
    2328741
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: Interconnects with Co-Designed Materials, Topology, and Wire Architecture
合作研究:FuSe:与共同设计的材料、拓扑和线路架构互连
  • 批准号:
    2328906
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: Interconnects with Co-Designed Materials, Topology, and Wire Architecture
合作研究:FuSe:与共同设计的材料、拓扑和线路架构互连
  • 批准号:
    2328908
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
Collaborative Research: FuSe: Collaborative Optically Disaggregated Arrays of Extreme-MIMO Radio Units (CODAeMIMO)
合作研究:FuSe:Extreme-MIMO 无线电单元的协作光学分解阵列 (CODAeMIMO)
  • 批准号:
    2328947
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
FuSe/Collaborative Research: Heterogeneous Integration in Power Electronics for High-Performance Computing (HIPE-HPC)
FuSe/合作研究:用于高性能计算的电力电子异构集成 (HIPE-HPC)
  • 批准号:
    2329063
  • 财政年份:
    2023
  • 资助金额:
    $ 70万
  • 项目类别:
    Continuing Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了