Memory deduplication for serverless computing with Medes
Memory deduplication for serverless computing with Medes
复制标题
使用 Medes 进行无服务器计算的内存重复数据删除
DOI：
10.1145/3492321.3524272
复制
发表时间：
2022
期刊：
影响因子：
--
通讯作者：
Akella, Aditya
中科院分区：
文献类型：
--
作者：
Saxena, Divyanshu;Ji, Tao;Singhvi, Arjun;Khalid, Junaid;Akella, Aditya
当今的无服务器平台在资源使用和用户感知的性能之间强加了严格的权衡。有限的控制，通过在温暖和寒冷的状态和保持活动之间切换沙箱提供，迫使运营商牺牲大量的资源，以实现良好的性能。我们提出了一个无服务器框架Medes，它打破了僵化的权衡，并允许运营商顺利地导航权衡空间。Medes利用了这样一个事实，即在无服务器平台上运行的暖沙箱在其内存占用中具有很高的重复比例。我们利用这些冗余块来开发一个新的沙箱状态，称为重复数据删除状态，它比热状态更节省内存，并且比冷状态恢复得更快。我们开发了新的机制，以最小的开销来识别内存冗余，同时确保重复数据删除容器的内存占用很小。最后，我们开发了一个简单的沙箱管理策略，为运营商提供了一个狭窄，直观的界面，通过联合控制温沙箱和重复数据删除沙箱来权衡内存性能。使用真实世界无服务器工作负载的原型进行的详细实验表明，Medes可以在端到端延迟方面提供高达1×-2.75×的改进。Medes的优势在内存压力情况下得到增强，Medes可以在端到端延迟方面提供高达3.8倍的改进。Medes通过将冷启动次数减少10- 50%来实现这一目标。
Serverless platforms today impose rigid trade-offs between resource use and user-perceived performance. Limited controls, provided via toggling sandboxes between warm and cold states and keep-alives, force operators to sacrifice significant resources to achieve good performance. We present a serverless framework, Medes, that breaks the rigid trade-off and allows operators to navigate the trade-off space smoothly. Medes leverages the fact that the warm sandboxes running on serverless platforms have a high fraction of duplication in their memory footprints. We exploit these redundant chunks to develop a new sandbox state, called a dedup state, that is more memory-efficient than the warm state and faster to restore from than the cold state. We develop novel mechanisms to identify memory redundancy at minimal overhead while ensuring that the dedup containers' memory footprint is small. Finally, we develop a simple sandbox management policy that exposes a narrow, intuitive interface for operators to trade-off performance for memory by jointly controlling warm and dedup sandboxes. Detailed experiments with a prototype using real-world serverless workloads demonstrate that Medes can provide up to 1×-2.75× improvements in the end-to-end latencies. The benefits of Medes are enhanced in memory pressure situations, where Medes can provide up to 3.8× improvements in end-to-end latencies. Medes achieves this by reducing the number of cold starts incurred by 10--50% against the state-of-the-art baselines.
登录
查看更多内容
DOI：
--
发表时间：
2021-05
期刊：
--
影响因子：
--
作者：
Ao Wang;Shuai Chang;Huangshi Tian;Hongqi Wang;Haoran Yang;Huiba Li;Rui Du;Yue Cheng
通讯作者：
Ao Wang;Shuai Chang;Huangshi Tian;Hongqi Wang;Haoran Yang;Huiba Li;Rui Du;Yue Cheng
DOI：
10.1145/1294261.1294281
发表时间：
2007-10
期刊：
EAI Endorsed Trans. Scalable Inf. Syst.
影响因子：
--
作者：
Giuseppe DeCandia;D. Hastorun;M. Jampani;G. Kakulapati;A. Lakshman;A. Pilchin;S. Sivasubramanian
通讯作者：
Giuseppe DeCandia;D. Hastorun;M. Jampani;G. Kakulapati;A. Lakshman;A. Pilchin;S. Sivasubramanian
DOI：
--
发表时间：
2018-07
期刊：
--
影响因子：
--
作者：
Liang Wang;Mengyuan Li;Yinqian Zhang;Thomas Ristenpart;M. Swift
通讯作者：
Liang Wang;Mengyuan Li;Yinqian Zhang;Thomas Ristenpart;M. Swift
DOI：
--
发表时间：
2019-07
期刊：
--
影响因子：
--
作者：
Dmitry Duplyakin;R. Ricci;Aleksander Maricq;Gary Wong;Jonathon Duerig;E. Eide;L. Stoller;Mike Hibler;David Johnson;Kirk Webb;Aditya Akella;Kuang-Ching Wang;Glenn Ricart;L. Landweber;C. Elliott;M. Zink;E. Cecchet;Snigdhaswin Kar;Prabodh Mishra
通讯作者：
Dmitry Duplyakin;R. Ricci;Aleksander Maricq;Gary Wong;Jonathon Duerig;E. Eide;L. Stoller;Mike Hibler;David Johnson;Kirk Webb;Aditya Akella;Kuang-Ching Wang;Glenn Ricart;L. Landweber;C. Elliott;M. Zink;E. Cecchet;Snigdhaswin Kar;Prabodh Mishra
DOI：
10.1145/3445814.3446701
发表时间：
2021-04
期刊：
Proceedings of the 26th ACM International Conference on Architectural Support for Programming Languages and Operating Systems
影响因子：
--
作者：
Zhipeng Jia;Emmett Witchel
通讯作者：
Zhipeng Jia;Emmett Witchel