CNS Core:Small: Toward Automatic Virtualization of Accelerators
CNS Core:小:迈向加速器自动虚拟化
基本信息
- 批准号:2006943
- 负责人:
- 金额:$ 50万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Standard Grant
- 财政年份:2020
- 资助国家:美国
- 起止时间:2020-10-01 至 2024-09-30
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
The cloud has transformed computing and society over the past decade by providing fast on-demand access to scalable computing resources. At the same time, the end of Moore’s law has driven the emergence of a panoply of hardware accelerators such as GPUs, TPUs, and FPGAs that are critical to game-changing workloads such as machine learning. Unfortunately, cloud migration and hardware specialization are on a collision course: cloud applications run on virtual infrastructure, but practical virtualization techniques for accelerators remains an open and challenging problem. Solutions offered by cloud providers sacrifice the consolidation benefits of virtualization and waste energy. With data centers projected to consume up to 20% of the world's total power by 2025, improving performance and efficiency of cloud infrastructure is becoming critical to the health of our planet.The proposed research will address key obstacles that limit efficiency and wide adoption of hardware acceleration in the cloud, focusing on two questions. The first is how to build practical, efficient virtualization support for emerging hardware-accelerators. The second is how to make accelerators of the future more efficiently virtualizable. The PI will develop language, OS, and runtime techniques to automate the construction of virtual accelerator support. Applying these techniques to cloud accelerators is a significant research challenge. The PI will explore techniques to dramatically improve virtualization support provided directly by accelerators and will develop language-level virtualization support for reconfigurable accelerators such as field programmable gate arrays. By bringing efficient virtualization support to cloud accelerators and cloud services that use accelerators, the proposed research will bring power-efficient cloud computing to new problems and domains, and reduce energy waste.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
在过去的十年里,云通过提供对可扩展计算资源的快速按需访问,改变了计算和社会。与此同时,摩尔定律的终结推动了GPU、TPU和FPGA等一系列硬件加速器的出现,这些加速器对机器学习等改变游戏规则的工作负载至关重要。不幸的是,云迁移和硬件专业化正在发生冲突:云应用程序在虚拟基础设施上运行,但加速器的实用虚拟化技术仍然是一个开放且具有挑战性的问题。云提供商提供的解决方案牺牲了虚拟化的整合优势,并浪费了能源。预计到2025年,数据中心的耗电量将占全球总耗电量的20%,提高云基础设施的性能和效率对地球的健康至关重要。拟议的研究将解决限制云计算效率和硬件加速广泛采用的关键障碍,重点关注两个问题。首先是如何为新兴的硬件加速器构建实用、高效的虚拟化支持。第二个是如何让未来的加速器更有效地虚拟化。 PI将开发语言、操作系统和运行时技术,以自动构建虚拟加速器支持。 将这些技术应用于云加速器是一项重大的研究挑战。PI将探索技术,以显着提高加速器直接提供的虚拟化支持,并将开发语言级的虚拟化支持可重新配置的加速器,如现场可编程门阵列。通过为云加速器和使用加速器的云服务提供高效的虚拟化支持,将高能效的云计算应用于新的问题和领域,并减少能源浪费。该奖项反映了NSF的法定使命,通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。
项目成果
期刊论文数量(7)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Design, implementation, and application of GPU-based Java bytecode interpreters
基于GPU的Java字节码解释器的设计、实现与应用
- DOI:10.1145/3360603
- 发表时间:2019
- 期刊:
- 影响因子:0
- 作者:Celik, Ahmet;Nie, Pengyu;Rossbach, Christopher J.;Gligoric, Milos
- 通讯作者:Gligoric, Milos
Disaggregated GPU Acceleration for Serverless Applications
- DOI:10.1145/3606557.3606560
- 发表时间:2023-06
- 期刊:
- 影响因子:0
- 作者:Henrique Fingler;Zhiting Zhu;Esther Yoon;Zhipeng Jia;Emmett Witchel;C. Rossbach
- 通讯作者:Henrique Fingler;Zhiting Zhu;Esther Yoon;Zhipeng Jia;Emmett Witchel;C. Rossbach
Parla: a Python orchestration system for heterogeneous architectures
Parla:用于异构架构的 Python 编排系统
- DOI:
- 发表时间:2022
- 期刊:
- 影响因子:0
- 作者:Lee, Hochan;Ruys, William;Henriksen, Ian;Peters, Arthur;Yan, Yineng;Stephens, Sean;You, Bozhi;Fingler, Henrique;Burtscher, Martin;Gligoric, Milos
- 通讯作者:Gligoric, Milos
DGSF: Disaggregated GPUs for Serverless Functions
DGSF:用于无服务器功能的分解 GPU
- DOI:10.1109/ipdps53621.2022.00077
- 发表时间:2022
- 期刊:
- 影响因子:0
- 作者:Fingler, Henrique;Zhu, Zhiting;Yoon, Esther;Jia, Zhipeng;Witchel, Emmett
- 通讯作者:Witchel, Emmett
Compiler-driven FPGA virtualization with SYNERGY
使用 SYNERGY 进行编译器驱动的 FPGA 虚拟化
- DOI:10.1145/3445814.3446755
- 发表时间:2021
- 期刊:
- 影响因子:0
- 作者:Landgraf, Joshua;Yang, Tiffany;Lin, Will;Rossbach, Christopher J.;Schkufza, Eric
- 通讯作者:Schkufza, Eric
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Christopher Rossbach其他文献
Christopher Rossbach的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
{{ truncateString('Christopher Rossbach', 18)}}的其他基金
CAREER: Operating System Support for Ephemeral and Malleable Accelerators
职业:对临时和可延展加速器的操作系统支持
- 批准号:
1846169 - 财政年份:2019
- 资助金额:
$ 50万 - 项目类别:
Continuing Grant
CSR: Small: Performance and Fairness with Multiple Page Sizes
CSR:小:多种页面大小的性能和公平性
- 批准号:
1618563 - 财政年份:2016
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
相似国自然基金
胆固醇羟化酶CH25H非酶活依赖性促进乙型肝炎病毒蛋白Core及Pre-core降解的分子机制研究
- 批准号:82371765
- 批准年份:2023
- 资助金额:50 万元
- 项目类别:面上项目
锕系元素5f-in-core的GTH赝势和基组的开发
- 批准号:22303037
- 批准年份:2023
- 资助金额:30 万元
- 项目类别:青年科学基金项目
基于合成致死策略搭建Core-matched前药共组装体克服肿瘤耐药的机制研究
- 批准号:
- 批准年份:2022
- 资助金额:52 万元
- 项目类别:
鼠伤寒沙门氏菌LPS core经由CD209/SphK1促进树突状细胞迁移加重炎症性肠病的机制研究
- 批准号:
- 批准年份:2022
- 资助金额:30 万元
- 项目类别:青年科学基金项目
基于外泌体精准调控的“核-壳”(core-shell)同步血管化骨组织工程策略的应用与机制探讨
- 批准号:
- 批准年份:2020
- 资助金额:55 万元
- 项目类别:
肌营养不良蛋白聚糖Core M3型甘露糖肽的精确制备及功能探索
- 批准号:92053110
- 批准年份:2020
- 资助金额:70.0 万元
- 项目类别:重大研究计划
Core-1-O型聚糖黏蛋白缺陷诱导胃炎发生并介导慢性胃炎向胃癌转化的分子机制研究
- 批准号:81902805
- 批准年份:2019
- 资助金额:20.5 万元
- 项目类别:青年科学基金项目
原始地球增生晚期的Core-merging大碰撞事件:地核增生、核幔平衡与核幔边界结构的新认识
- 批准号:41973063
- 批准年份:2019
- 资助金额:65.0 万元
- 项目类别:面上项目
CORDEX-CORE区域气候模拟与预估研讨会
- 批准号:41981240365
- 批准年份:2019
- 资助金额:1.5 万元
- 项目类别:国际(地区)合作与交流项目
RBM38通过协助Pol-ε结合、招募core调控HBV复制
- 批准号:31900138
- 批准年份:2019
- 资助金额:24.0 万元
- 项目类别:青年科学基金项目
相似海外基金
CNS Core: Small: Core Scheduling Techniques and Programming Abstractions for Scalable Serverless Edge Computing Engine
CNS Core:小型:可扩展无服务器边缘计算引擎的核心调度技术和编程抽象
- 批准号:
2322919 - 财政年份:2024
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
CNS Core: Small: Network Wide Sensing by Leveraging Cellular Communication Networks
CNS 核心:小型:利用蜂窝通信网络进行全网络传感
- 批准号:
2343469 - 财政年份:2024
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
Collaborative Research: CNS Core: Small: A Compilation System for Mapping Deep Learning Models to Tensorized Instructions (DELITE)
合作研究:CNS Core:Small:将深度学习模型映射到张量化指令的编译系统(DELITE)
- 批准号:
2230945 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
Collaborative Research: CNS Core: Small: SmartSight: an AI-Based Computing Platform to Assist Blind and Visually Impaired People
合作研究:中枢神经系统核心:小型:SmartSight:基于人工智能的计算平台,帮助盲人和视障人士
- 批准号:
2418188 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
CNS Core: Small: Intelligent Fault Injection to Expose and Reproduce Production-Grade Bugs in Cloud Systems
CNS 核心:小型:智能故障注入以暴露和重现云系统中的生产级错误
- 批准号:
2317698 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
Collaborative Research: NSF-AoF: CNS Core: Small: Towards Scalable and Al-based Solutions for Beyond-5G Radio Access Networks
合作研究:NSF-AoF:CNS 核心:小型:面向超 5G 无线接入网络的可扩展和基于人工智能的解决方案
- 批准号:
2225578 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
CNS Core: Small: Toward Opportunistic, Fast, and Robust In-Cache AI Acceleration at the Edge
CNS 核心:小型:在边缘实现机会主义、快速且稳健的缓存内 AI 加速
- 批准号:
2228028 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
CNS Core: Small: Repurposing Smartphones to Minimize Carbon
CNS 核心:小型:重新利用智能手机以最大限度地减少碳排放
- 批准号:
2233894 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
CNS Core: Small: Redesigning I/O Across Heterogeneous Systems
CNS 核心:小型:跨异构系统重新设计 I/O
- 批准号:
2231724 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant
Collaborative Research: CNS Core: Small: Creating An Extensible Internet Through Interposition
合作研究:CNS核心:小:通过介入创建可扩展的互联网
- 批准号:
2242503 - 财政年份:2023
- 资助金额:
$ 50万 - 项目类别:
Standard Grant