休眠容器：一种用于无服务器计算中快速启动与高密度部署的紧缩容器模式
分布式、并行与集群计算
2023-05-19 v1
摘要
无服务器计算是一种流行的云计算范式，其需要低响应延迟以处理按需用户请求。为降低响应延迟，有两种显著技术：保持完全初始化的容器存活（热容器）或降低新容器启动（冷启动）延迟。本文提出第三种容器启动模式：休眠容器，其启动快于冷启动容器模式，且内存消耗低于热容器模式。休眠容器本质上是一个“紧缩”的热容器。其应用内存被换出到磁盘，释放的内存被回收，基于文件的 mmap 内存被清理。休眠容器的紧缩内存会在响应用户请求时被重新充胀。由于休眠容器的应用已完全初始化，其响应延迟低于冷启动模式；又由于应用内存已被紧缩，其内存消耗低于热容器模式。此外，当休眠容器被“唤醒”处理请求时，唤醒后的容器具有与热容器相近的响应延迟，但内存消耗更低，因为并非所有紧缩内存都需被充胀。我们将休眠技术实现为开源 Quark 安全容器运行时项目的一部分，测试表明休眠容器消耗约热容器内存的 7% 至 25%。所有这些带来了更高的部署密度、更低的延迟以及整体系统性能的显著提升。
引用
@article{arxiv.2305.10963,
title = {Hibernate Container: A Deflated Container Mode for Fast Startup and High-density Deployment in Serverless Computing},
author = {Yulin Sun and Deepak Vij and Fenge Li and Wenjian Guo and Ying Xiong},
journal= {arXiv preprint arXiv:2305.10963},
year = {2023}
}