Sinan：面向微服务的基于数据驱动且感知 QoS 的集群管理
分布式、并行与集群计算
2021-05-31 v1 机器学习
网络与互联网体系结构
摘要
云应用正日益从大型单体服务转向大量松耦合、专门化的微服务。尽管微服务在促进开发、部署、模块化和隔离方面具有优势，但由于微服务间的依赖会引入背压效应和级联 QoS 违例，其使资源管理复杂化。我们提出 Sinan，一种面向交互式云微服务的在线且感知 QoS 的数据驱动集群管理器。Sinan 利用一组可扩展且经过验证的机器学习模型来确定微服务间依赖的性能影响，并按层分配适当资源以保留端到端尾延迟目标。我们在专用本地集群和 Google Compute Engine (GCE) 上的大规模部署中，基于具有代表性的微服务端到端应用（如社交网络与酒店预订网站）对 Sinan 进行了评估。我们表明 Sinan 始终满足 QoS，同时保持高集群利用率，而先前工作会导致不可预测的性能或牺牲资源效率。此外，Sinan 中的技术是可解释的，意味着云运营者可从 ML 模型中获取见解，以更好地部署和设计其应用，从而减少不可预测的性能。
引用
@article{arxiv.2105.13424,
title = {Sinan: Data-Driven, QoS-Aware Cluster Management for Microservices},
author = {Yanqi Zhang and Weizhe Hua and Zhuangzhuang Zhou and Edward Suh and Christina Delimitrou},
journal= {arXiv preprint arXiv:2105.13424},
year = {2021}
}