SBIR Phase I: Enabling Real-Time AI on End Devices through Compression-Compilation Co-Design
SBIR 第一阶段:通过压缩编译协同设计在终端设备上启用实时人工智能
基本信息
- 批准号:2104298
- 负责人:
- 金额:$ 25.47万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Standard Grant
- 财政年份:2021
- 资助国家:美国
- 起止时间:2021-07-01 至 2022-05-31
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
The broader impact of this Small Business Innovation Research (SBIR) Phase I project is in the array of new opportunities it creates for expanding uses of machine intelligence. By providing an efficient way to transform deep learning models to best fit the constraints on end devices and real-time applications, this project will shorten the time to market for artificial intelligence applications by orders of magnitude, and hence significantly accelerate the development and deployment of intelligent software in health, commerce, financial, defense, social networks, and many other areas.This Small Business Innovation Research (SBIR) Phase I project aims to address the important barriers for efficient development of real-time Artificial Intelligence applications on end devices (smartphones, drones, etc.). It does this through a breakthrough technology, compression-compilation co-design. Compression and compilation are the two key steps in fitting a deep learning model on a hardware for efficient execution. Model compression reduces the size of deep learning models; compilation generates executable codes from a given deep learning model. The principle of compression-compilation co-design is to design the two components for AI in a hand-in-hand manner. The technology uses a novel approach to synergize a set of novel model compression methods with compression-aware code compilation techniques. The result is a technology that achieves several-fold higher artificial intelligence model compression rates over the state of the art, several times faster speed, better energy efficiency, and satisfying accuracy.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
这个小型企业创新研究(SBIR)第一阶段项目的更广泛影响在于它为扩大机器智能的使用创造了一系列新的机会。通过提供一种有效的方法来转换深度学习模型,以最好地适应终端设备和实时应用的限制,该项目将缩短人工智能应用的上市时间,从而大大加快健康,商业,金融,国防,社交网络,小企业创新研究(SBIR)第一阶段项目旨在解决终端设备(智能手机、无人机等)上实时人工智能应用高效开发的重要障碍。它通过一项突破性的技术--压缩-编译协同设计来实现这一点。压缩和编译是在硬件上安装深度学习模型以实现高效执行的两个关键步骤。模型压缩可以减小深度学习模型的大小;编译可以从给定的深度学习模型生成可执行代码。压缩-编译协同设计的原则是以手拉手的方式为AI设计这两个组件。该技术使用一种新的方法来协同一组新的模型压缩方法与压缩感知代码编译技术。其结果是,该技术实现了比现有技术高出数倍的人工智能模型压缩率、数倍的速度、更高的能源效率和令人满意的准确性。该奖项反映了NSF的法定使命,并通过使用基金会的智力价值和更广泛的影响审查标准进行评估,被认为值得支持。
项目成果
期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
数据更新时间:{{ journalArticles.updateTime }}
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Xipeng Shen其他文献
Large-Scale Program Behavior Analysis for Adaptation and Parallelization
用于适应和并行化的大规模程序行为分析
- DOI:
- 发表时间:
2006 - 期刊:
- 影响因子:0
- 作者:
Xipeng Shen - 通讯作者:
Xipeng Shen
Can PCM Benefit GPU? Reconciling Hybrid Memory Design with GPU Massive Parallelism for Energy Efficiency
PCM 能给 GPU 带来好处吗?
- DOI:
- 发表时间:
2013 - 期刊:
- 影响因子:0
- 作者:
Bin Wang;Bo Wu;Dong Li;Xipeng Shen;Weikuan Yu;Yizheng Jiao;J. Vetter - 通讯作者:
J. Vetter
Seeds of SEED: New Security Challenges for Persistent Memory
SEED 的种子:持久内存的新安全挑战
- DOI:
- 发表时间:
2021 - 期刊:
- 影响因子:0
- 作者:
Naveed Ul Mustafa;Yuanchao Xu;Xipeng Shen;Yan Solihin - 通讯作者:
Yan Solihin
IDE Augmented with Human-Learning Inspired Natural Language Programming
IDE 通过人类学习启发的自然语言编程进行了增强
- DOI:
10.1145/3510454.3516832 - 发表时间:
2022 - 期刊:
- 影响因子:0
- 作者:
Mitchell Young;Zifan Nan;Xipeng Shen - 通讯作者:
Xipeng Shen
HPCFAIR: Enabling FAIR AI for HPC Applications
HPCFAIR:为 HPC 应用程序启用 FAIR AI
- DOI:
- 发表时间:
2021 - 期刊:
- 影响因子:0
- 作者:
Gaurav Verma;M. Emani;C. Liao;Pei;T. Vanderbruggen;Xipeng Shen;Barbara M. Chapman - 通讯作者:
Barbara M. Chapman
Xipeng Shen的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
{{ truncateString('Xipeng Shen', 18)}}的其他基金
Collaborative Research: CSR: Medium: Scaling Secure Serverless Computing on Heterogeneous Datacenters
协作研究:CSR:中:在异构数据中心上扩展安全无服务器计算
- 批准号:
2312207 - 财政年份:2023
- 资助金额:
$ 25.47万 - 项目类别:
Continuing Grant
Collaborative Research: CNS Core: Medium: Understanding and Strengthening Memory Security for Non-Volatile Memory
合作研究:CNS 核心:中:理解和加强非易失性内存的内存安全性
- 批准号:
2107068 - 财政年份:2021
- 资助金额:
$ 25.47万 - 项目类别:
Continuing Grant
Workshop on Inter-Disciplinary Research Challenges in Computer Systems
计算机系统跨学科研究挑战研讨会
- 批准号:
1823068 - 财政年份:2018
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SHF: Small: Improving Memory Performance on Fused Architectures through Compiler and Runtime Innovations
SHF:小型:通过编译器和运行时创新提高融合架构的内存性能
- 批准号:
1525609 - 财政年份:2015
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SHF: Small: Non-Uniformity--Centric Program Optimizations for Dynamic Computations on Chip Multiprocessors
SHF:小:片上多处理器动态计算的非均匀性以程序优化为中心
- 批准号:
1455404 - 财政年份:2014
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
CAREER: Input-Centric Program Behavior Analysis and Adaptation
职业:以输入为中心的程序行为分析和适应
- 批准号:
1455733 - 财政年份:2014
- 资助金额:
$ 25.47万 - 项目类别:
Continuing Grant
SHF: Small: Non-Uniformity--Centric Program Optimizations for Dynamic Computations on Chip Multiprocessors
SHF:小:片上多处理器动态计算的非均匀性以程序优化为中心
- 批准号:
1320796 - 财政年份:2013
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
CAREER: Input-Centric Program Behavior Analysis and Adaptation
职业:以输入为中心的程序行为分析和适应
- 批准号:
0954015 - 财政年份:2010
- 资助金额:
$ 25.47万 - 项目类别:
Continuing Grant
CPA-CPL: Exploring and Exploiting Heterogeneous Cache Sharing in Chip Multiprocessors Systems for Locality Optimization and Proactive Cache Management
CPA-CPL:探索和利用芯片多处理器系统中的异构缓存共享,实现局部优化和主动缓存管理
- 批准号:
0811791 - 财政年份:2008
- 资助金额:
$ 25.47万 - 项目类别:
Continuing Grant
CSR-AES: Collaborative Research: Behavior-Based Speculative Parallelization and Optimization on Desktop Multiprocessors
CSR-AES:协作研究:桌面多处理器上基于行为的推测并行化和优化
- 批准号:
0720499 - 财政年份:2007
- 资助金额:
$ 25.47万 - 项目类别:
Continuing Grant
相似国自然基金
Baryogenesis, Dark Matter and Nanohertz Gravitational Waves from a Dark
Supercooled Phase Transition
- 批准号:24ZR1429700
- 批准年份:2024
- 资助金额:0.0 万元
- 项目类别:省市级项目
ATLAS实验探测器Phase 2升级
- 批准号:11961141014
- 批准年份:2019
- 资助金额:3350 万元
- 项目类别:国际(地区)合作与交流项目
地幔含水相Phase E的温度压力稳定区域与晶体结构研究
- 批准号:41802035
- 批准年份:2018
- 资助金额:12.0 万元
- 项目类别:青年科学基金项目
基于数字增强干涉的Phase-OTDR高灵敏度定量测量技术研究
- 批准号:61675216
- 批准年份:2016
- 资助金额:60.0 万元
- 项目类别:面上项目
基于Phase-type分布的多状态系统可靠性模型研究
- 批准号:71501183
- 批准年份:2015
- 资助金额:17.4 万元
- 项目类别:青年科学基金项目
纳米(I-Phase+α-Mg)准共晶的临界半固态形成条件及生长机制
- 批准号:51201142
- 批准年份:2012
- 资助金额:25.0 万元
- 项目类别:青年科学基金项目
连续Phase-Type分布数据拟合方法及其应用研究
- 批准号:11101428
- 批准年份:2011
- 资助金额:23.0 万元
- 项目类别:青年科学基金项目
D-Phase准晶体的电子行为各向异性的研究
- 批准号:19374069
- 批准年份:1993
- 资助金额:6.4 万元
- 项目类别:面上项目
相似海外基金
SBIR Phase I: Space Biobank: Enabling High Throughput Space-Based Biotech R&D
SBIR 第一阶段:太空生物库:实现高通量天基生物技术 R
- 批准号:
2419674 - 财政年份:2024
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SBIR Phase I: Set Point Solutions - Safeguarding Lives By Enabling Communication in Austere and Remote Environments
SBIR 第一阶段:设定点解决方案 - 通过在严峻和偏远的环境中实现通信来保护生命
- 批准号:
2212209 - 财政年份:2023
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SBIR Phase I: Advanced microfluidic systems enabling development of novel circulating tumor cell diagnostics
SBIR 第一阶段:先进的微流体系统能够开发新型循环肿瘤细胞诊断
- 批准号:
2234009 - 财政年份:2023
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SBIR Phase II: Enabling Better Grid-Scale Energy Storage with Organic Additives
SBIR 第二阶段:利用有机添加剂实现更好的电网规模储能
- 批准号:
2136220 - 财政年份:2022
- 资助金额:
$ 25.47万 - 项目类别:
Cooperative Agreement
SBIR Phase I: Enabling Robust Binary Code AI via Novel Disassembly
SBIR 第一阶段:通过新颖的反汇编实现鲁棒的二进制代码 AI
- 批准号:
2112109 - 财政年份:2021
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SBIR Phase II: Enabling Technologies for Noninvasive Oxygen Imaging in Regenerative Medicine
SBIR 第二阶段:再生医学中无创氧成像的使能技术
- 批准号:
2028829 - 财政年份:2021
- 资助金额:
$ 25.47万 - 项目类别:
Cooperative Agreement
SBIR Phase I: DEEP-MOP - Development of an Electrification Enabling Platform for Maritime Outboard Propulsion
SBIR 第一阶段:DEEP-MOP - 开发海上舷外推进电气化支持平台
- 批准号:
2036072 - 财政年份:2021
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SBIR Phase I: Enabling On-site Nitrate Fertilizer Production: An Absorption Unit to Efficiently and Selectively Capture Nitrates
SBIR 第一阶段:实现现场硝酸盐肥料生产:高效、选择性捕获硝酸盐的吸收装置
- 批准号:
2111864 - 财政年份:2021
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant
SBIR PHASE II TOPIC 377: ENABLING CLINICAL DECISION SUPPORT FOR GUIDELINE-BASED CANCER SYMPTOM MANAGEMENT (MOONSHOT)
SBIR 第二阶段主题 377:为基于指南的癌症症状管理提供临床决策支持(登月计划)
- 批准号:
10271533 - 财政年份:2020
- 资助金额:
$ 25.47万 - 项目类别:
SBIR Phase I: Enabling Better Grid-Scale Energy Storage with Organic Additives
SBIR 第一阶段:利用有机添加剂实现更好的电网规模储能
- 批准号:
2013880 - 财政年份:2020
- 资助金额:
$ 25.47万 - 项目类别:
Standard Grant