面向云原生微服务的分析驱动资源管理
分布式、并行与集群计算
2024-01-08 v1 人工智能
摘要
云原生微服务的资源管理近期引起了广泛关注。先前的工作表明，机器学习驱动的方法在服务水平协议（SLA）维护和资源效率方面均优于自动伸缩等传统技术。然而，机器学习驱动的方法也面临挑战，包括漫长的数据收集过程和有限的可扩展性。我们提出了Ursa，一个轻量级的云原生微服务资源管理系统，旨在应对这些挑战。Ursa使用一个分析模型，将端到端SLA分解为每个服务的SLA，并将每个服务的SLA映射到每个微服务层级的个体资源分配。为了加速探索过程并避免长时间的SLA违规，Ursa单独探索每个微服务，并在延迟超过其SLA时迅速停止探索。我们在一组具有代表性的端到端微服务拓扑上评估了Ursa，包括一个社交网络、媒体服务和视频处理流水线，每个拓扑都包含具有不同SLA的多个请求类别和优先级，并将其与两个代表性的机器学习驱动系统Sinan和Firm进行比较。与这些机器学习驱动的方法相比，Ursa提供了显著的优势：它将数据收集过程缩短了超过128倍，并且其控制平面比机器学习驱动的方法快43倍。同时，Ursa没有牺牲资源效率或SLA。在在线部署期间，与机器学习驱动的方法相比，Ursa将SLA违规率降低了9.0%至49.9%，并将CPU分配减少了高达86.2%。
引用
@article{arxiv.2401.02920,
title = {Analytically-Driven Resource Management for Cloud-Native Microservices},
author = {Yanqi Zhang and Zhuangzhuang Zhou and Sameh Elnikety and Christina Delimitrou},
journal= {arXiv preprint arXiv:2401.02920},
year = {2024}
}