SHF: Small: Using Software Defined Cache to Accelerate Index Search for In-memory Applications: Software and Hardware Approaches

SHF:小型:使用软件定义的缓存来加速内存应用程序的索引搜索:软件和硬件方法

基本信息

  • 批准号:
    1815303
  • 负责人:
  • 金额:
    $ 34.5万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2018
  • 资助国家:
    美国
  • 起止时间:
    2018-10-01 至 2022-09-30
  • 项目状态:
    已结题

项目摘要

Memory is one of the most important components in large-scale data centers. As many software systems for big data processing keep their data sets entirely in memory to enable high-performance in-memory computing, memory efficiency becomes critical to application performance. While the applications, such as database systems and big data analytics, often serve as an infrastructure for information processing and providing IT services for millions of people in our society, improvement of their performance via optimization of the memory access is of great importance and impact. As memory access is slow compared with processor and cache speeds, the project eliminates unnecessary memory accesses with a re-designed cache architecture supporting flexible access and efficient management. In addition, this project provides research training to both undergraduate and graduate students, especially under-represented minority students, to prepare them to be future information technology professionals with strong skills in computer architecture and system areas. In memory-intensive computing, a significant percentage of memory access is spent on indices for translating user-defined keys into memory addresses for data accessing. However, due to lack of temporal and spatial localities, it can be very difficult to cache the indices and receive high cache-hit ratio. Accordingly, searching of the indexes is often at the memory speed, and searching for a data item may require multiple memory accesses. This project designs a software-defined cache -- an informed use of processor cache where a user program can explicitly specify data items for caching with their defined keys. As a two-phase effort, the project adopts a software approach, in which it is presented as a user-level library managing a look-aside buffer implicitly mapped into the cache, and a hardware approach, in which keys are explicitly hashed into the cache. Both approaches well exploit access locality and perform index search at the cache speed with their respective unique advantages. Accordingly, performance of memory system and memory-intensive applications can be significantly improved.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
内存是大型数据中心中最重要的组件之一。由于许多用于大数据处理的软件系统将其数据集完全保存在内存中以实现高性能内存计算,因此内存效率对应用程序性能至关重要。虽然应用程序,如数据库系统和大数据分析,通常作为信息处理的基础设施,并为我们社会中的数百万人提供IT服务,但通过优化存储器访问来提高其性能具有非常重要的意义和影响。由于与处理器和缓存速度相比,内存访问速度较慢,因此该项目通过重新设计的缓存架构消除了不必要的内存访问,支持灵活的访问和高效的管理。此外,该项目为本科生和研究生,特别是代表性不足的少数民族学生提供研究培训,使他们成为未来的信息技术专业人员,在计算机架构和系统领域拥有强大的技能。 在内存密集型计算中,很大一部分内存访问花费在索引上,用于将用户定义的键转换为内存地址以进行数据访问。然而,由于缺乏时间和空间的地方,它可以是非常困难的缓存索引和接收高缓存命中率。因此,索引的搜索通常以存储器速度进行,并且搜索数据项可能需要多次存储器访问。这个项目设计了一个软件定义的高速缓存--一种对处理器高速缓存的知情使用,其中用户程序可以显式地指定数据项,以便用它们定义的键进行高速缓存。作为一个两阶段的努力,该项目采用了软件的方法,其中它是作为一个用户级库管理的后备缓冲区隐式映射到该高速缓存,和硬件的方法,其中键显式散列到该高速缓存。这两种方法都能很好地利用访问局部性,以该高速缓存的速度执行索引搜索,各有其独特的优点。该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(9)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
ChameleonDB: a key-value store for optane persistent memory
REMIX: Efficient Range Query for LSM-trees
  • DOI:
  • 发表时间:
    2020-10
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Wenshao Zhong;Chen Chen-Chen;Xingbo Wu;Song Jiang
  • 通讯作者:
    Wenshao Zhong;Chen Chen-Chen;Xingbo Wu;Song Jiang
Wormhole: A Fast Ordered Index for In-memory Data Management
Wormhole:用于内存数据管理的快速有序索引
SS-CDC: a two-stage parallel content-defined chunking for deduplicating backup storage
Buffered Hash Table: Leveraging DRAM to Enhance Hash Indexes in the Persistent Memory
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Song Jiang其他文献

Research on the Bipolar Microsecond Pulse Generator Using the Multistage Resonant Charging
多级谐振充电双极微秒脉冲发生器的研究
  • DOI:
    10.1109/tps.2021.3133504
  • 发表时间:
    2022
  • 期刊:
  • 影响因子:
    1.5
  • 作者:
    Zi Li;Xiaoyue Wang;Song Jiang;Yonggang Wang;J. Rao
  • 通讯作者:
    J. Rao
Global weak solutions to the two-dimensional Navier-Stokes equations of compressible heat-conducting flows with symmetric data and forces
具有对称数据和力的可压缩热传导流二维纳维-斯托克斯方程的全局弱解
A third-order moving mesh cell-centered scheme for one-dimensional elastic-plastic flows
一维弹塑性流动的三阶移动网格单元中心方案
  • DOI:
    10.1016/j.jcp.2017.08.018
  • 发表时间:
    2017-01
  • 期刊:
  • 影响因子:
    4.1
  • 作者:
    jun-bo cheng;Weizhang Huang;Song Jiang;BaolinTian
  • 通讯作者:
    BaolinTian
Unit Selection: Learning Benefit Function from Finite Population Data
单元选择:从有限人口数据中学习效益函数
  • DOI:
    10.48550/arxiv.2210.08203
  • 发表时间:
    2022
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Ang Li;Song Jiang;Yizhou Sun;J. Pearl
  • 通讯作者:
    J. Pearl
An asymptotic preserving unified gas kinetic scheme for gray radiative transfer equations
灰色辐射传递方程的渐进保持统一气体动力学格式
  • DOI:
    10.1016/j.jcp.2015.01.008
  • 发表时间:
    2015-03
  • 期刊:
  • 影响因子:
    4.1
  • 作者:
    Wenjun Sun;Song Jiang;Kun Xu
  • 通讯作者:
    Kun Xu

Song Jiang的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Song Jiang', 18)}}的其他基金

CSR: Small:Taming Small Data Writes to Block Storage Devices for Higher I/O Efficiency
CSR:小:驯服小数据写入块存储设备以提高 I/O 效率
  • 批准号:
    1664373
  • 财政年份:
    2016
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
CSR: Small:Taming Small Data Writes to Block Storage Devices for Higher I/O Efficiency
CSR:小:驯服小数据写入块存储设备以提高 I/O 效率
  • 批准号:
    1527076
  • 财政年份:
    2015
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
CSR: Small: Adaptively Applying Data-Driven Execution Mode to Remove I/O Bottleneck for Data-Intensive Computing
CSR:小:自适应应用数据驱动执行模式,消除数据密集型计算的 I/O 瓶颈
  • 批准号:
    1217948
  • 财政年份:
    2012
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
CSR: Small: Enabling Dual-mode Execution for Removing I/O Bottleneck: A Highly Applicable Design and Implementation
CSR:小:启用双模式执行以消除 I/O 瓶颈:高度适用的设计和实现
  • 批准号:
    1117772
  • 财政年份:
    2011
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
CAREER: Building Virtual Devices with QoS Assurance in a Consolidated Storage Infrastructure
职业:在整合存储基础设施中构建具有 QoS 保证的虚拟设备
  • 批准号:
    0845711
  • 财政年份:
    2009
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Continuing Grant
Collaborative Research: Algorithms Design and Systems Implementation to Improve Buffer Management for I/O Data Accesses
协作研究:改进 I/O 数据访问缓冲区管理的算法设计和系统实现
  • 批准号:
    0702500
  • 财政年份:
    2007
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Continuing Grant

相似国自然基金

昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
  • 批准号:
    n/a
  • 批准年份:
    2022
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
  • 批准号:
    32000033
  • 批准年份:
    2020
  • 资助金额:
    24.0 万元
  • 项目类别:
    青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
  • 批准号:
    31972324
  • 批准年份:
    2019
  • 资助金额:
    58.0 万元
  • 项目类别:
    面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
  • 批准号:
    81900988
  • 批准年份:
    2019
  • 资助金额:
    21.0 万元
  • 项目类别:
    青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
  • 批准号:
    31870821
  • 批准年份:
    2018
  • 资助金额:
    56.0 万元
  • 项目类别:
    面上项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
  • 批准号:
    31802058
  • 批准年份:
    2018
  • 资助金额:
    26.0 万元
  • 项目类别:
    青年科学基金项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
  • 批准号:
    31772128
  • 批准年份:
    2017
  • 资助金额:
    60.0 万元
  • 项目类别:
    面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
  • 批准号:
    81704176
  • 批准年份:
    2017
  • 资助金额:
    20.0 万元
  • 项目类别:
    青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
  • 批准号:
    91640114
  • 批准年份:
    2016
  • 资助金额:
    85.0 万元
  • 项目类别:
    重大研究计划

相似海外基金

SHF: Small: Taming Huge Page Problems for Memory Bulk Operations Using a Hardware/Software Co-Design Approach
SHF:小:使用硬件/软件协同设计方法解决内存批量操作的大页面问题
  • 批准号:
    2400014
  • 财政年份:
    2024
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Automated Unit Test Generation using Large Language Models
SHF:小型:使用大型语言模型自动生成单元测试
  • 批准号:
    2307742
  • 财政年份:
    2023
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Beyond Accelerators - Using FPGAs to Achieve Fine-grained Control of Data-flows in Embedded SoCs
SHF:小型:超越加速器 - 使用 FPGA 实现嵌入式 SoC 中数据流的细粒度控制
  • 批准号:
    2008799
  • 财政年份:
    2020
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Revamping I/O Architectures Using Machine Learning Techniques on Big Compute Machines
SHF:小型:在大型计算机上使用机器学习技术改进 I/O 架构
  • 批准号:
    1907765
  • 财政年份:
    2019
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Acceleration Using Smart Memory-on-Chip
SHF:小型:使用智能片上存储器进行加速
  • 批准号:
    1908601
  • 财政年份:
    2019
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Using Error-Bounded Lossy Compression to Improve High-Performance Computing Systems and Applications
SHF:小型:使用误差有限有损压缩来改进高性能计算系统和应用程序
  • 批准号:
    1910197
  • 财政年份:
    2019
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Rigorous Synthesis and Verification of Decisions Using Data-Driven Models
SHF:小型:使用数据驱动模型对决策进行严格的综合和验证
  • 批准号:
    1815983
  • 财政年份:
    2018
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Hot DNA Computation: Speeding up DNA-based Computation, CRNs, and Robotics using Strand-Displacing Polymerase
SHF:小型:热门 DNA 计算:使用链置换聚合酶加速基于 DNA 的计算、CRN 和机器人技术
  • 批准号:
    1813805
  • 财政年份:
    2018
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: Scalable Program Synthesis using Counterexample-Guided Abstraction Refinement
SHF:小型:使用反例引导的抽象细化的可扩展程序综合
  • 批准号:
    1811865
  • 财政年份:
    2018
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
SHF: Small: New Directions in Groebner Basis based Verification using Logic Synthesis Techniques
SHF:小:使用逻辑综合技术进行基于 Groebner 基础的验证的新方向
  • 批准号:
    1619370
  • 财政年份:
    2016
  • 资助金额:
    $ 34.5万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了