Humas:面向大规模数据中心的异构性与升级感知的微服务自动扩缩框架
分布式、并行与集群计算
2024-06-25 v1
摘要
有效的自动扩缩框架对于微服务在动态工作负载下确保性能稳定性和资源效率至关重要。众多 prior 研究揭示,高效自动扩缩的关键在于准确学习性能模式,即性能指标与工作负载之间关系的数据驱动方案。然而,我们注意到在 characterize 大规模微服务的性能模式时存在两个显著挑战:首先,多样化的微服务对异构机器表现出不同的灵敏度,导致以固定方式量化性能差异困难;其次,微服务的频繁版本升级导致性能模式发生不确定变更,称为模式漂移,进而引发资源容量估计不准确的问题。为解决这些挑战,我们提出了 Humas,一个面向大规模微服务的异构性和升级感知的自动扩缩框架。首先,Humas 在线对各种微服务在异构机器上的资源效率差异进行量化,并将其资源标准化为标准单位。此外,Humas 开发了基于最小二乘密度差(LSDD)的算法来识别由升级引起的模式漂移。最后,Humas 根据最新的性能模式和预测工作负载生成微服务的容量调整计划。在 50 个真实微服务、超过 11,000 个容器的实验结果表明,与最新方法相比,Humas 通过约 30.4% 和 48.0% 分别提高了资源效率和性能稳定性。
引用
@article{arxiv.2406.15769,
title = {Humas: A Heterogeneity- and Upgrade-aware Microservice Auto-scaling Framework in Large-scale Data Centers},
author = {Qin Hua and Dingyu Yang and Shiyou Qian and Jian Cao and Guangtao Xue and Minglu Li},
journal= {arXiv preprint arXiv:2406.15769},
year = {2024}
}
备注
14 pages; 27 figures