Archipelago：一种可扩展的低延迟无服务器平台
分布式、并行与集群计算
2019-11-25 v1
摘要
使用微服务构建 Web 应用的增多推动了函数即服务（FaaS）或无服务器计算平台的快速增长。尽管 FaaS 简化了应用开发者的资源调配与扩展，但它给云提供商在资源管理方面带来了需要应对的新挑战。我们对流行无服务器工作负载的分析表明，调度器需要处理存活时间极短、到达模式不可预测且需要昂贵沙箱设置的函数。在多租户集群中运行大量此类函数这一挑战使得现有调度框架不再适用。我们提出 Archipelago，一种在多租户无服务器环境下实现低延迟请求执行的平台。Archipelago 将每个应用视为函数的 DAG，且每个 DAG 关联一个延迟截止时间。Archipelago 通过以下方式实现其每 DAG 请求延迟目标：（1）将给定集群划分为若干较小的工作池，并为每个池关联一个半全局调度器（SGS）；（2）在每个 SGS 内使用延迟感知调度器并结合主动沙箱分配以降低开销；（3）使用负载均衡层将不同 DAG 的请求路由至合适的 SGS，并自动扩展每个 DAG 的 SGS 数量。我们的测试床结果表明，Archipelago 对超过 99% 的真实应用请求负载满足延迟截止时间，并且相较于最先进的（SOTA）无服务器平台将尾延迟降低了至多 36 倍。
引用
@article{arxiv.1911.09849,
title = {Archipelago: A Scalable Low-Latency Serverless Platform},
author = {Arjun Singhvi and Kevin Houck and Arjun Balasubramanian and Mohammed Danish Shaikh and Shivaram Venkataraman and Aditya Akella},
journal= {arXiv preprint arXiv:1911.09849},
year = {2019}
}
备注
14 pages