SHF: Small: A Distributed Scalable End-to-End Tail Latency SLO Guaranteed Resource Management Framework for Microservices

SHF:Small:分布式可扩展端到端尾部延迟 SLO 保证的微服务资源管理框架

基本信息

  • 批准号:
    2226117
  • 负责人:
  • 金额:
    $ 60万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2022
  • 资助国家:
    美国
  • 起止时间:
    2022-10-01 至 2025-09-30
  • 项目状态:
    未结题

项目摘要

Microsevice architecture typically yields highly scalable, maintainable, testable and loosely coupled systems. For this reason, cloud-computing services are shifting from traditional monolithic architectures to microservice architectures to enable fast development, easy debugging and frequent software updating. A primary design goal of cloud computing is to provide user-centric services that meet diverse end-to-end application query tail-latency Service Level Objective (SLO) requirements, while maximizing system-resource utilization. This proposal aims at developing such an approach, known as Distributed scalable End-to-end Tail lAtency SLO Guaranteed rEsource Management framework for microservices (DETAGEM). DETAGEM explores foundational principles to establish a solid theoretical foundation towards a comprehensive solution for resource allocation with guaranteed per-query tail-latency SLO. The algorithms and tools developed in DETAGEM will be made available to benefit a broad set of researchers, engineers and educators, and thereby advancing research across a range of other areas. Moreover, the obtained results from this project will be integrated into existing undergraduate and graduate curricula on a continuous basis. The involvement of underrepresented students in this proposed research at The University of Texas at Arlington will enhance their competitiveness in the future job market.DETAGEM is a comprehensive distributed scalable solution rooted in fundamental principles. The approach taken by DETAGEM is to (a) derive a mathematical foundation that maps the SLO for Directed Acyclic Graph (DAG) workflows for queries to the task queuing budgets for tasks in the queies at their respective microservices, based on the statistics of unloaded task response time measured at individual microservices at runtime; and (b) develop task-queuing-budget-aware queue-management schemes and resource-auto-scaling schemes based on measured task-queuing budget-violation ratios. The objective is to ensure that all the microservices meet their respective task-queuing budgets, which will then guarantee that the end-to-end query tail-latency SLO for the queries are satisfied. The successful completion of the proposed project is expected to greatly advance the state-of-the-art in terms of methodologies, theories, and practical solutions for the microservice architecture.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
微服务体系结构通常产生高度可伸缩、可维护、可测试和松耦合的系统。因此,云计算服务正在从传统的单片架构转向微服务架构,以实现快速开发,轻松调试和频繁的软件更新。云计算的主要设计目标是提供以用户为中心的服务,以满足不同的端到端应用查询尾延迟服务水平目标(SLO)要求,同时最大化系统资源利用率。该提案旨在开发这样一种方法,称为分布式可扩展的端到端尾部延迟SLO保证的微服务资源管理框架(Distributed scalable End-to-end Tail lAtency SLO Guaranteed rEssource Management framework for microservices,简称SGGEM)。EQUIPGEM探索基本原则,为资源分配的全面解决方案建立坚实的理论基础,并保证每个查询的尾延迟SLO。 该项目开发的算法和工具将使广大研究人员、工程师和教育工作者受益,从而推动其他一系列领域的研究。此外,该项目所取得的成果将持续纳入现有的本科生和研究生课程。德克萨斯大学阿灵顿分校的代表性不足的学生参与这项拟议的研究将提高他们在未来就业市场的竞争力。RIGGEM采取的方法是(a)基于在运行时在各个微服务处测量的卸载任务响应时间的统计数据,导出将用于查询的有向无环图(DAG)工作流的SLO映射到其各自微服务处的队列中的任务的任务排队预算的数学基础;以及(B)基于测量的任务排队违规率来开发任务排队违规感知的违规管理方案和资源自动缩放方案。 目标是确保所有微服务满足各自的任务排队预算,然后保证满足查询的端到端查询尾延迟SLO。该项目的成功完成将极大地推动微服务架构的方法论、理论和实践解决方案的发展。该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(2)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
TailGuard: Tail Latency SLO Guaranteed Task Scheduling for Data-Intensive User-Facing Applications
User Disengagement-Oriented Target Enforcement for Multi-Tenant Database Systems
  • DOI:
    10.1145/3620678.3624668
  • 发表时间:
    2023-10
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Ning Li;Hong Jiang;Hao Che;Zhijun Wang;Minh Q. Nguyen;Todd Rosenkrantz
  • 通讯作者:
    Ning Li;Hong Jiang;Hao Che;Zhijun Wang;Minh Q. Nguyen;Todd Rosenkrantz
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Hong Jiang其他文献

Emotional Agents Outreach: An Undergraduate Research project
情绪代理外展:本科生研究项目
  • DOI:
  • 发表时间:
    2011
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Bethel Tarekegne;Hong Jiang;CE Brown;Kory Griggs Msc
  • 通讯作者:
    Kory Griggs Msc
Selection of possible signature peptides for the detection of bovine lactoferrin in infant formulas by LC-MS/MS
选择可能的特征肽用于通过 LC-MS/MS 检测婴儿配方奶粉中的牛乳铁蛋白
  • DOI:
  • 发表时间:
    2017
  • 期刊:
  • 影响因子:
    3.7
  • 作者:
    Mingmei Yuan;Cong Feng;Shouyun Wang;Weiwei Zhang;Mo Chen;Hong Jiang;Xue
  • 通讯作者:
    Xue
Upconversion luminescent sensor for endogenous H2O2 detection in cells based on the inner filter effect of coated silver layer
基于银层内滤效应的上转换发光传感器检测细胞内源性H2O2
  • DOI:
    10.1016/j.snb.2022.132936
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Zhuo Wang;Yale Hong;Jiabei Li;Jinliang Liu;Hong Jiang;Lining Sun
  • 通讯作者:
    Lining Sun
中国的大气活性氮来源、变化趋势和危害成本
Elevated UV-B radiation increased the decomposition of Cinnamonum camphora and Cyclobalanopsis glauca leaf litter in subtropical China
UV-B辐射升高增加了中国亚热带地区樟树和青冈凋落物的分解
  • DOI:
  • 发表时间:
  • 期刊:
  • 影响因子:
    3.6
  • 作者:
    Xinzhang Song;Changhui Peng;Hong Jiang;Huiling Zhang;Shuquan Yu;Scott X. Chang
  • 通讯作者:
    Scott X. Chang

Hong Jiang的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Hong Jiang', 18)}}的其他基金

SHF: SMALL: STITCH: Request-SLO-Aware Orchestration for Large-scale Sensing Services over IoT-Edge-Cloud Hierarchy
SHF:SMALL:STITCH:基于 IoT-边缘-云层次结构的大规模传感服务的请求 SLO 感知编排
  • 批准号:
    2008835
  • 财政年份:
    2020
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
CRII: RI: Learning novel multi-resolution representations of graphs: Applications to Brain Connectivity analysis for Alzheimer's Disease
CRII:RI:学习图形的新颖多分辨率表示:在阿尔茨海默氏病大脑连接分析中的应用
  • 批准号:
    1948510
  • 财政年份:
    2020
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
Doctoral Dissertation Research: Historical Ecology of Coral Reef Ecosystems in the Hawaiian Archipelago
博士论文研究:夏威夷群岛珊瑚礁生态系统的历史生态学
  • 批准号:
    0926768
  • 财政年份:
    2009
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
HEC: Collaborative Research: SAM^2 Toolkit: Scalable and Adaptive Metadata Management for High-End Computing
HEC:协作研究:SAM^2 工具包:用于高端计算的可扩展和自适应元数据管理
  • 批准号:
    0621526
  • 财政年份:
    2006
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
SBIR Phase I: I-MINDS: Intelligent Multiagent Infrastructure for Distributed Systems in Education
SBIR 第一阶段:I-MINDS:教育分布式系统的智能多代理基础设施
  • 批准号:
    0441249
  • 财政年份:
    2005
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant

相似国自然基金

昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
  • 批准号:
    n/a
  • 批准年份:
    2022
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
  • 批准号:
    32000033
  • 批准年份:
    2020
  • 资助金额:
    24.0 万元
  • 项目类别:
    青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
  • 批准号:
    31972324
  • 批准年份:
    2019
  • 资助金额:
    58.0 万元
  • 项目类别:
    面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
  • 批准号:
    81900988
  • 批准年份:
    2019
  • 资助金额:
    21.0 万元
  • 项目类别:
    青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
  • 批准号:
    31870821
  • 批准年份:
    2018
  • 资助金额:
    56.0 万元
  • 项目类别:
    面上项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
  • 批准号:
    31802058
  • 批准年份:
    2018
  • 资助金额:
    26.0 万元
  • 项目类别:
    青年科学基金项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
  • 批准号:
    31772128
  • 批准年份:
    2017
  • 资助金额:
    60.0 万元
  • 项目类别:
    面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
  • 批准号:
    81704176
  • 批准年份:
    2017
  • 资助金额:
    20.0 万元
  • 项目类别:
    青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
  • 批准号:
    91640114
  • 批准年份:
    2016
  • 资助金额:
    85.0 万元
  • 项目类别:
    重大研究计划

相似海外基金

Collaborative Research: SHF: Small: Technical Debt Management in Dynamic and Distributed Systems
合作研究:SHF:小型:动态和分布式系统中的技术债务管理
  • 批准号:
    2232720
  • 财政年份:
    2023
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
Collaborative Research: SHF: Small: Technical Debt Management in Dynamic and Distributed Systems
合作研究:SHF:小型:动态和分布式系统中的技术债务管理
  • 批准号:
    2232721
  • 财政年份:
    2023
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
Collaborative Research: SHF: Small: Distributed Fragmented Software Design Meetings
协作研究:SHF:小型:分布式碎片化软件设计会议
  • 批准号:
    2210812
  • 财政年份:
    2022
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
Collaborative Research: SHF: Small: Distributed Fragmented Software Design Meetings
协作研究:SHF:小型:分布式碎片化软件设计会议
  • 批准号:
    2210813
  • 财政年份:
    2022
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
SHF: Small: Synthesis of Complex Deep Neural Networks on Distributed Resource-Constrained Devices
SHF:小型:分布式资源受限设备上复杂深度神经网络的综合
  • 批准号:
    2006394
  • 财政年份:
    2020
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
SHF: Small: Distributed DNA Computations Operating on a Collection of Cell Membranes
SHF:小型:在细胞膜集合上运行的分布式 DNA 计算
  • 批准号:
    1909848
  • 财政年份:
    2019
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
SHF: Small: Communication-Efficient Distributed Algorithms for Machine Learning
SHF:小型:用于机器学习的通信高效分布式算法
  • 批准号:
    1814888
  • 财政年份:
    2018
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
SHF: Small: Distributed Timing Analysis and Beyond
SHF:小型:分布式时序分析及其他
  • 批准号:
    1718883
  • 财政年份:
    2017
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
SHF: Small: Higher-order Contracts for Distributed Applications
SHF:小型:分布式应用程序的高阶合约
  • 批准号:
    1421770
  • 财政年份:
    2014
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
SHF: Small: Computer-Aided Synthesis for Distributed Algorithms
SHF:小型:分布式算法的计算机辅助综合
  • 批准号:
    1423296
  • 财政年份:
    2014
  • 资助金额:
    $ 60万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了