Gimbal: enabling multi-tenant storage disaggregation on SmartNIC JBOFs
Gimbal: enabling multi-tenant storage disaggregation on SmartNIC JBOFs
复制标题
Gimbal：在 SmartNIC JBOF 上启用多租户存储分解
DOI：
10.1145/3452296.3472940
复制
发表时间：
2021
期刊：
影响因子：
--
通讯作者：
Krishnamurthy, Arvind
中科院分区：
文献类型：
--
作者：
Min, Jaehong;Liu, Ming;Chugh, Tapan;Zhao, Chenxingyu;Wei, Andrew;Doh, In Hwan;Krishnamurthy, Arvind
新兴的基于SmartNIC的分散式NVMe存储由于其具有竞争力的IO性能和低成本而成为一种有前途的存储基础设施。这些SmartNIC JBOF在多个共存的应用程序之间共享，并且需要平台确保公平性、QoS和高利用率。不幸的是，由于SmartNIC的计算能力有限以及NVMe驱动器的不确定性，在当今的SmartNIC JBOF上提供此类支持具有挑战性。本文介绍了Gimbal，这是一种软件存储交换机，可为位于同一位置的租户协调以太网端口和NVMe驱动器之间的IO流量。它使用以下技术在SmartNIC JBOF上实现高效的多租户：基于延迟的SSD拥塞控制算法，SSD写入成本的动态估计，以虚拟插槽粒度运行的公平调度程序，以及端到端基于信用的流量控制通道。我们的原型系统不仅实现了高达x6.6的更好的利用率和62.6%的尾部延迟，而且还提高了复杂工作负载的公平性。它还提高了多租户环境中的商业键值存储性能，吞吐量提高了1.7倍，尾部延迟平均减少了35.0%。
Emerging SmartNIC-based disaggregated NVMe storage has become a promising storage infrastructure due to its competitive IO performance and low cost. These SmartNIC JBOFs are shared among multiple co-resident applications, and there is a need for the platform to ensure fairness, QoS, and high utilization. Unfortunately, given the limited computing capability of the SmartNICs and the non-deterministic nature of NVMe drives, it is challenging to provide such support on today's SmartNIC JBOFs.This paper presents Gimbal, a software storage switch that orchestrates IO traffic between Ethernet ports and NVMe drives for co-located tenants. It enables efficient multi-tenancy on SmartNIC JBOFs using the following techniques: a delay-based SSD congestion control algorithm, dynamic estimation of SSD write costs, a fair scheduler that operates at the granularity of a virtual slot, and an end-to-end credit-based flow control channel. Our prototyped system not only achieves up to x6.6 better utilization and 62.6% less tail latency but also improves the fairness for complex workloads. It also improves a commercial key-value store performance in a multi-tenant environment with x1.7 better throughput and 35.0% less tail latency on average.
登录
查看更多内容
DOI：
--
发表时间：
2018-10
期刊：
ArXiv
影响因子：
--
作者：
Ahmed Saeed;Yimeng Zhao;Nandita Dukkipati;M. Ammar;E. Zegura;Khaled A. Harras;Amin Vahdat
通讯作者：
Ahmed Saeed;Yimeng Zhao;Nandita Dukkipati;M. Ammar;E. Zegura;Khaled A. Harras;Amin Vahdat
DOI：
--
发表时间：
2020
期刊：
--
影响因子：
--
作者：
Jaehyun Hwang;Qizhe Cai;A. Tang;R. Agarwal
通讯作者：
Jaehyun Hwang;Qizhe Cai;A. Tang;R. Agarwal
DOI：
--
发表时间：
2019
期刊：
--
影响因子：
--
作者：
Ming Liu;Simon Peter;A. Krishnamurthy;P. Phothilimthana
通讯作者：
Ming Liu;Simon Peter;A. Krishnamurthy;P. Phothilimthana
DOI：
10.1145/3037697.3037732
发表时间：
2017-04
期刊：
Proceedings of the Twenty-Second International Conference on Architectural Support for Programming Languages and Operating Systems
影响因子：
--
作者：
Ana Klimovic;Heiner Litz;Christos Kozyrakis
通讯作者：
Ana Klimovic;Heiner Litz;Christos Kozyrakis
影响因子：
4.5
作者：
Chung, Tae-Sun;Park, Dong-Joo;Song, Ha-Joo
通讯作者：
Song, Ha-Joo