MSARS：面向微服务 SLO 资源分配与自适应扩缩的元学习强化学习框架
分布式、并行与集群计算
2024-09-24 v1
摘要
服务水平目标 (SLO) 旨在设置服务时间阈值，以确保云服务的可接受质量服务 (QoS) 和用户满意度。目前，许多研究将 SLO 视为需分配的系统资源，以确保 QoS 符合 SLO 要求。现有依赖 SLO 资源的微服务自动扩缩框架常利用复杂且计算密集的模型，需要大量时间和资源才能确定合适的资源分配方案。本文旨在在动态变化的微服务环境中快速分配 SLO 资源，并在确保应用 QoS 符合 SLO 要求的同时，最小化资源成本。我们提出了 MSARS 框架，利用元学习快速推导出 SLO 资源分配策略，并采用强化学习实现微服务资源的自适应扩缩。该框架包含三个创新组件：首先，MSARS 使用图卷积网络预测当前环境最合适的 SLO 资源分配方案。其次，MSARS 利用元学习使图神经网络能够快速适应环境变化，确保在高度动态的微服务环境中的适应性。最后，MSARS 基于改进的双经验深度确定性策略梯度 (TD3) 模型生成每个微服务的自动扩缩策略。自适应自动扩缩策略将 SLO 资源分配策略集成到调度算法中，以满足 SLO 要求。最后，我们将 MSARS 与使用神经网络和强化学习的前沿资源自动扩缩算法进行比较，结果显示 MSARS 对新环境的适应时间缩短 40%，SLO 违规减少 38%，资源成本降低 8%。
引用
@article{arxiv.2409.14953,
title = {MSARS: A Meta-Learning and Reinforcement Learning Framework for SLO Resource Allocation and Adaptive Scaling for Microservices},
author = {Kan Hu and Linfeng Wen and Minxian Xu and Kejiang Ye},
journal= {arXiv preprint arXiv:2409.14953},
year = {2024}
}
备注
10 pages, 6 figures, IEEE ISPA 2024