基于大规模集群的微服务干扰的评分机制缓解方案
分布式、并行与集群计算
2024-12-06 v1
摘要
将延迟关键型服务（LCSs）与按需作业（BEJs）共置是提高生产环境资源利用率的主要方法。然而，尽管采用隔离技术，共置做法仍会因资源竞争而损害 LCSs 的性能。通过对两个生产集群中大量真实轨迹数据的深入分析，我们发现 BEJs 通常表现出周期性执行模式，是 LCSs 干扰的主要来源。此外，尽管占用相同级别的资源消耗，BEJs 的不同组成也会导致对 LCSs 产生不同程度的干扰。随后，我们提出 PISM（Proactive Performance Interference Scoring and Mitigating framework for LCSs），通过优化 BEJ 调度来实现对 LCSs 的主动性能干扰评分与缓解。首先，PISM 采用数据驱动方法建立 BEJs 的特征刻画与分类方法。其次，PISM 模型化 BEJs 在服务器上的组成与 LCSs 响应时间（RT）之间的关系。最后，PISM 基于 RT 建立干扰评分机制，作为 BEJ 调度的基础。我们在小规模集群上进行评估，并通过大规模数据驱动仿真进行验证。实验结果表明，PISM 可将集群干扰降低最高可达 41.5%，并使长尾 LCSs 的吞吐量提升 76.4%。
引用
@article{arxiv.2407.12248,
title = {Mitigating Interference of Microservices with a Scoring Mechanism in Large-scale Clusters},
author = {Dingyu Yang and Kangpeng Zheng and Shiyou Qian and Jian Cao and Guangtao Xue},
journal= {arXiv preprint arXiv:2407.12248},
year = {2024}
}