SPES:面向无服务器函数的性能-资源权衡优化
软件工程
2024-08-22 v2 分布式、并行与集群计算
摘要
作为一种新兴的云计算部署范式,无服务器计算因其效率和能够充分利用按需云资源的能力而日益受到关注。然而,一个显著的障碍仍以冷启动问题的形式存在,导致启动新函数实例时的延迟。现有解决方案倾向于使用过于简化的函数预加载/卸载策略,未充分利用函数调用模式,导致冷启动延迟与资源浪费之间的权衡优化效果不佳。为弥合这一差距,我们提出了 SPES,即首个针对运行时冷启动缓解的差异化调度器,通过优化无服务器函数的供应来实现此目标。我们的洞察是,无服务器系统的常见架构导致某些调用模式集中,从而产生可预测的调用行为。这使我们能够将函数分类,并根据准确的调用预测采用更细粒度的策略对函数实例进行预加载/卸载。实验表明,SPES 在两方面成功优化了无服务器函数的供应:将 75 百分位冷启动率降低 49.77%,将浪费的内存时间降低 56.43%,与最先进的解决方案相比。通过缓解冷启动问题,SPES 是推动基于无服务器架构部署的云服务的有前景的进步。
引用
@article{arxiv.2403.17574,
title = {SPES: Towards Optimizing Performance-Resource Trade-Off for Serverless Functions},
author = {Cheryl Lee and Zhouruixing Zhu and Tianyi Yang and Yintong Huo and Yuxin Su and Pinjia He and Michael R. Lyu},
journal= {arXiv preprint arXiv:2403.17574},
year = {2024}
}
备注
12 pages, accepted by ICDE 2024 (40th IEEE International Conference on Data Engineering)