FaaSched：一种感知抖动的无服务器调度器
分布式、并行与集群计算
2023-03-14 v1
摘要
无服务器计算系统正变得非常流行。Netflix、Airbnb 和 Coca-Cola 等大型企业使用此类系统运行其网站和 IT 系统。此类系统的优势包括卓越的自动扩缩容支持、负载均衡和快速分布式处理。这些是多 QoS 系统，其中不同类别的应用具有不同的延迟和抖动（延迟的变化）需求：我们考虑延迟敏感（LS）和延迟期望（LD）应用的混合。确保 LS 应用适当的可调度性和 QoS 实施并非易事。我们需要在不增加 LS 应用响应延迟的情况下最小化抖动，同时还需控制 LD 应用响应延迟的退化。这是该领域首篇在 LS 应用所受抖动与 LD 应用响应延迟之间实现权衡的论文。我们使用基于强化学习（RL）的方案在约束后者的情况下最小化前者。为设计此类 RL 方案，我们进行了详细的表征研究以找出感兴趣的输入变量，定义了新颖的状态表示，并提出了一种定制奖励函数使我们能够实现此权衡。对于一个由五种流行 LS 和 LD 应用各组成的激进用例，我们展示了 LS 应用的响应时间方差和平均延迟分别降低 50.31% 和 27.4%。LD 应用执行延迟的平均退化被限制在 19.88%。
引用
@article{arxiv.2303.06473,
title = {FaaSched: A Jitter-Aware Serverless Scheduler},
author = {Abhisek Panda and Smruti R. Sarangi},
journal= {arXiv preprint arXiv:2303.06473},
year = {2023}
}