ChainsFormer:一种面向微服务集群的链路延迟感知资源供给方法
分布式、并行与集群计算
2023-10-10 v3
摘要
从单体应用向微服务转型的趋势已在现代分布式系统与应用中被广泛采纳。这一转变催生了轻量、细粒度且自包含的微服务。多个微服务可通过调用与相互依赖连接形成复杂功能。管理微服务面临的挑战之一是为链路中的微服务提供最优资源量,以保障应用性能并提升资源使用效率。本文提出 ChainsFormer,一种分析微服务间依赖以识别关键链路与节点并基于强化学习进行资源供给的框架。为分析链路,ChainsFormer 利用轻量级机器学习技术应对微服务链路与工作负载的动态性。在资源供给方面,采用结合垂直与水平伸缩的强化学习方法以确定分配资源量与副本数。我们在基于 Kubernetes 的真实测试床上使用真实应用与轨迹评估了 ChainsFormer 的有效性。实验结果表明,与最先进技术相比,ChainsFormer 可将响应时间降低至多 26%,并将每秒处理请求数提升 8%。
引用
@article{arxiv.2309.12592,
title = {ChainsFormer: A Chain Latency-aware Resource Provisioning Approach for Microservices Cluster},
author = {Chenghao Song and Minxian Xu and Kejiang Ye and Huaming Wu and Sukhpal Singh Gill and Rajkumar Buyya and Chengzhong Xu},
journal= {arXiv preprint arXiv:2309.12592},
year = {2023}
}
备注
15 pages