在服务网格上动态满足多服务的性能目标
机器学习
2022-10-11 v1
摘要
我们提出一个框架,让服务提供商在变化负载下实现端到端管理目标。动态控制动作由强化学习(RL)智能体执行。我们的工作包括在实验室测试床上的实验与评估,其中我们在由 Istio 和 Kubernetes 平台支持的服务网格上实现了基础信息服务。我们研究了不同的管理目标,包括服务请求的端到端延迟界限、吞吐量目标和服务区分。这些目标被映射到奖励函数,RL 智能体通过学习执行控制动作(即请求路由和请求阻塞)来优化。我们在模拟器中而非测试床上计算控制策略,这将学习过程加速了数个数量级。在我们的方法中,系统模型在测试床上学习;随后用于实例化模拟器,其为各种管理目标生成近最优控制策略。学习到的策略随后在使用未见负载模式的测试床上评估。
引用
@article{arxiv.2210.04002,
title = {Dynamically meeting performance objectives for multiple services on a service mesh},
author = {Forough Shahab Samani and Rolf Stadler},
journal= {arXiv preprint arXiv:2210.04002},
year = {2022}
}
备注
Accepted at the 18th International Conference on Network and Service Management