中文

缓解无服务器平台的冷启动:一种基于池的方法

分布式、并行与集群计算 2019-04-01 v1

摘要

由 Amazon 以 AWS Lambda 开创、众多商业产品与开源项目跟进的无服务器(或函数即服务,FaaS)范式被迅速采用,给云基础设施设计带来新挑战,需在性能与成本间权衡。尽管 FaaS 平台通常向应用开发者提供的按需瞬时弹性使得突发工作负载无需过度配置即可实现高性能,但此类弹性常涉及服务于函数的各个运行时容器按需配置所带来的额外延迟。此现象常被称为冷启动,相对于函数由预配置的“热”容器服务、能以近乎零开销就绪服务请求的情形。提供商持续研究旨在减少冷启动的技术。减少冷启动的一种常见方法是维持一个热容器池,以预期未来请求。在本报告中,我们解决无服务器架构中的冷启动问题,具体针对 Knative Serving FaaS 平台。我们描述了利用函数实例池的实现,并评估了相较于原始实现的延迟,单个实例池的 P99 响应时间减少了 85%。

关键词

引用

@article{arxiv.1903.12221,
  title  = {Mitigating Cold Starts in Serverless Platforms: A Pool-Based Approach},
  author = {Ping-Min Lin and Alex Glikson},
  journal= {arXiv preprint arXiv:1903.12221},
  year   = {2019}
}