CSR: Small: Core Scheduling to Improve Virtualized I/O Performance on Multi-Core Systems

CSR:小型:通过核心调度提高多核系统上的虚拟化 I/O 性能

基本信息

  • 批准号:
    0912850
  • 负责人:
  • 金额:
    $ 46.08万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2009
  • 资助国家:
    美国
  • 起止时间:
    2009-09-01 至 2014-08-31
  • 项目状态:
    已结题

项目摘要

This project focuses on reducing the overhead and increasing throughput of network processing in multi-core platforms. In particular, packet processing functions are proposed to be balanced across the cores so as to facilitate virtualization in next-generation systems.Low-cost multi-core architectures that put many CPU cores on the same chip are abundantly available in the market today. Researchers are developing a range of programming techniques for different applications to efficiently utilize the parallelism available in such multi-core architectures. However, research into how to alleviate the I/O bottleneck, where protocol-processing overhead dominates the CPU execution time, is sparse.Multicore has enabled broad interest in virtualization for diverse uses including server consolidation and sharing of various resources. Studies have shown that virtualization brings significant extra overhead to network I/O. The objective of this project is to develop techniques to optimize the performance of virtualized I/O with high-speed networks. In particular, the research team explores new software techniques in virtualized environments, that may reduce the network I/O overhead in multi-core processors, through the following approaches: 1. Life of a Packet Analysis: this involves a measurement technique to trace the life of a packet in a virtualized environment with 10 Gigabit Ethernet. The study instruments the OS software, and should reveal potential bottleneck functions that contribute heavily to packet latency. 2. Mutithreading the protocol stack: Based on life-of-a-packet analysis, the TCP/IP protocol stack in the guest O/S and virtual machine monitor (VMM) will be divided into multiple threads that can execute in parallel on multiple cores and cut down the latency. Core scheduling techniques are developed to allocate these threads to different cores so as to exploit the cache locality of the multi-core architecture. 3. Pipeline Scheduling: Instead of splitting the protocol stack in terms of latency bottleneck, tasks are partitioned based on code size and multiple threads developed. Techniques are developed to schedule the threads appropriately so that the cache misses are reduced. 4. Combined Scheduling for Virtualized Environment: Although the parallel/pipeline techniques are developed separately from the TCP/IP stack and VMM, they are combined to create multiple threads in a virtualized environment and various code scheduling optimizations are applied to reduce latency and increase I/O throughput. A complimentary project to the one described here has been partly supported by grants from the Intel Corporation. Hence, the research results obtained from this project may have strong potential for technology transfer. The PI has mentored several Ph.D. graduates who later developed reputations for architecture research and he has mentored four female Ph.D. graduates during the last two years, contributing to increasing the representation of women in computing in the country. Such efforts continue under this NSF project. UCR is recognized as a minority serving institution. Hence, involving undergraduate students will enable minority participation in the project.
该项目的重点是减少多核平台中网络处理的开销和增加吞吐量。特别是,为了促进下一代系统的虚拟化,提出了在内核之间均衡分组处理功能的建议。目前市场上大量存在将多个CPU内核放在同一芯片上的低成本多核架构。研究人员正在为不同的应用开发一系列编程技术,以有效地利用这种多核架构中的并行性。然而,对于如何缓解I/O瓶颈(协议处理开销主导CPU执行时间)的研究却很少。多核使得虚拟化在包括服务器整合和各种资源共享在内的各种用途中引起了广泛的兴趣。研究表明,虚拟化给网络I/O带来了显著的额外开销。该项目的目标是开发技术,以优化高速网络的虚拟化I/O的性能。特别是,研究小组探索了虚拟化环境中的新软件技术,可以通过以下方法减少多核处理器中的网络I/O开销:1.数据包寿命分析:这涉及一种测量技术,用于跟踪10千兆以太网虚拟化环境中数据包的寿命。该研究对操作系统软件进行了测试,并应揭示严重影响数据包延迟的潜在瓶颈功能。2.多线程处理协议栈:基于数据包生命周期分析,客户机操作系统和虚拟机监控器(VMM)中的TCP/IP协议栈将被划分为多个线程,这些线程可以在多个内核上并行执行,从而降低了延迟。核心调度技术被开发来将这些线程分配到不同的核心,以便利用多核架构的该高速缓存局部性。3.管道调度:任务不是根据延迟瓶颈来划分协议栈,而是根据代码大小和开发的多个线程来划分任务。开发了适当调度线程的技术,以减少该高速缓存未命中。4.虚拟化环境的组合调度:尽管并行/流水线技术是与TCP/IP堆栈和VMM分开开发的,但它们被组合在一起以在虚拟化环境中创建多个线程,并应用各种代码调度优化来减少延迟并增加I/O吞吐量。这里所述的一个补充项目得到了英特尔公司赠款的部分支持。因此,从该项目中获得的研究成果可能具有很大的技术转让潜力。PI已经指导了几个博士。毕业生谁后来开发的建筑研究的声誉,他已经指导了四个女博士。在过去两年中,该方案为毕业生提供了培训,为提高该国计算机领域的妇女代表性做出了贡献。这些努力在NSF项目下继续进行。UCR被认为是少数民族服务机构。因此,本科生的参与将使少数群体能够参与该项目。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Laxmi Bhuyan其他文献

Assertion Based Verification and Analysis of Network Processor Architectures
  • DOI:
    10.1007/s10617-005-1193-5
  • 发表时间:
    2005-07-11
  • 期刊:
  • 影响因子:
    0.900
  • 作者:
    Xi Chen;Yan Luo;Harry Hsieh;Laxmi Bhuyan;Felice Balarin
  • 通讯作者:
    Felice Balarin

Laxmi Bhuyan的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Laxmi Bhuyan', 18)}}的其他基金

Travel: Student Travel Support to NAS 2021
旅行:2021 年 NAS 学生旅行支持
  • 批准号:
    2139217
  • 财政年份:
    2021
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
SHF: Small: Locality Aware Scheduling in Multi-GPU Systems
SHF:小型:多 GPU 系统中的局部感知调度
  • 批准号:
    1907401
  • 财政年份:
    2019
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
SHF: Medium: Energy Efficient Computing on GPU-based Heterogeneous Systems
SHF:中:基于 GPU 的异构系统的节能计算
  • 批准号:
    1513201
  • 财政年份:
    2015
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Continuing Grant
SHF: Small: Efficient CPU-GPU Communication for Heterogeneous Architectures
SHF:小型:异构架构的高效 CPU-GPU 通信
  • 批准号:
    1423108
  • 财政年份:
    2014
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
EAGER: Developing a Programming Environment for Heterogenous Multiprocessors
EAGER:为异构多处理器开发编程环境
  • 批准号:
    1157377
  • 财政年份:
    2012
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Power-Efficient Multicore Scheduling for Network Applications
CSR:小型:网络应用的高能效多核调度
  • 批准号:
    1216014
  • 财政年份:
    2012
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
SHF: Medium: Hardware/Software Partitioning for Hybrid Shared Memory Multiprocessors
SHF:中:混合共享内存多处理器的硬件/软件分区
  • 批准号:
    0905509
  • 财政年份:
    2009
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CPA-CSA: Virtualization-Aware Architectures to Accelerate Network I/O Processing
CPA-CSA:加速网络 I/O 处理的虚拟化感知架构
  • 批准号:
    0811834
  • 财政年份:
    2008
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
NEDG: Application Oriented Edge Routers
NEDG:面向应用的边缘路由器
  • 批准号:
    0832108
  • 财政年份:
    2008
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
MRI: Acquisition of an Ultra Low-Latency Multiprocessor System with On-Board Hardware Accelerators
MRI:获取具有板载硬件加速器的超低延迟多处理器系统
  • 批准号:
    0619223
  • 财政年份:
    2006
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant

相似国自然基金

昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
  • 批准号:
    n/a
  • 批准年份:
    2022
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
  • 批准号:
    32000033
  • 批准年份:
    2020
  • 资助金额:
    24.0 万元
  • 项目类别:
    青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
  • 批准号:
    31972324
  • 批准年份:
    2019
  • 资助金额:
    58.0 万元
  • 项目类别:
    面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
  • 批准号:
    81900988
  • 批准年份:
    2019
  • 资助金额:
    21.0 万元
  • 项目类别:
    青年科学基金项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
  • 批准号:
    31802058
  • 批准年份:
    2018
  • 资助金额:
    26.0 万元
  • 项目类别:
    青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
  • 批准号:
    31870821
  • 批准年份:
    2018
  • 资助金额:
    56.0 万元
  • 项目类别:
    面上项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
  • 批准号:
    31772128
  • 批准年份:
    2017
  • 资助金额:
    60.0 万元
  • 项目类别:
    面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
  • 批准号:
    81704176
  • 批准年份:
    2017
  • 资助金额:
    20.0 万元
  • 项目类别:
    青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
  • 批准号:
    91640114
  • 批准年份:
    2016
  • 资助金额:
    85.0 万元
  • 项目类别:
    重大研究计划

相似海外基金

CSR: Small: Delegation Systems for Efficient and Safe Multi-Core Programming
CSR:小型:用于高效、安全多核编程的委派系统
  • 批准号:
    1816714
  • 财政年份:
    2018
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Efficient Many-core Execution Models for Cognitive Computing
CSR:小型:用于认知计算的高效多核执行模型
  • 批准号:
    1718481
  • 财政年份:
    2017
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Design and Optimization of Scalable Concurrent Data Structures for Multi-Core Systems
CSR:小型:多核系统可扩展并发数据结构的设计和优化
  • 批准号:
    1619197
  • 财政年份:
    2016
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CNS: CSR: Small: Runtime System, Architecture, and Technology Codesign Approach for Heterogeneous Many-Core Processors and Clusters
CNS:CSR:小型:异构众核处理器和集群的运行时系统、架构和技术协同设计方法
  • 批准号:
    1600669
  • 财政年份:
    2015
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Collaborative Research: Reliability Driven Resource Management of Multi-Core Real-Time Embedded Systems
CSR:小型:协作研究:多核实时嵌入式系统的可靠性驱动资源管理
  • 批准号:
    1319718
  • 财政年份:
    2013
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Collaborative Research: Reliability Driven Resource Management of Multi-Core Real-Time Embedded Systems
CSR:小型:协作研究:多核实时嵌入式系统的可靠性驱动资源管理
  • 批准号:
    1319904
  • 财政年份:
    2013
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Collaborative Research: Reliability Driven Resource Management of Multi-Core Real-Time Embedded Systems
CSR:小型:协作研究:多核实时嵌入式系统的可靠性驱动资源管理
  • 批准号:
    1319784
  • 财政年份:
    2013
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CNS: CSR: Small: Runtime System, Architecture, and Technology Codesign Approach for Heterogeneous Many-Core Processors and Clusters
CNS:CSR:小型:异构众核处理器和集群的运行时系统、架构和技术协同设计方法
  • 批准号:
    1217102
  • 财政年份:
    2012
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Simulation of Multicore Processors with One (or More) Fast Core(s) Using Wind River SIMICS
CSR:小型:使用 Wind River SIMICS 对具有一个(或多个)快速内核的多核处理器进行仿真
  • 批准号:
    1216352
  • 财政年份:
    2012
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
CSR: Small: Scheduling and Virtualization Technologies for Heterogeneous Clusters with Many-core Devices
CSR:小:多核设备异构集群的调度和虚拟化技术
  • 批准号:
    1216756
  • 财政年份:
    2012
  • 资助金额:
    $ 46.08万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了