服务网格上动态达成性能目标的框架
系统与控制
2023-06-27 v1 人工智能
机器学习
系统与控制
摘要
我们提出一个框架，用于实现在服务网格上并发执行的多个服务的端到端管理目标。我们应用强化学习（RL）技术训练一个智能体，该智能体周期性地执行控制动作以重新分配资源。我们使用实验室测试床开发并评估该框架，在由 Istio 和 Kubernetes 平台支撑的服务网格上运行信息与计算服务。我们研究了不同的管理目标，包括服务请求的端到端延迟界限、吞吐量目标、成本相关目标以及服务差异化。我们在模拟器而非测试床上计算控制策略，对于我们研究的场景，这将训练时间加快了数个数量级。我们提出的框架的新颖之处在于倡导一种自顶向下的方法：先定义管理目标，再映射至可用的控制动作。它允许我们同时执行多种类型的控制动作。通过首先从测试床轨迹中学习系统模型与运行区域，我们能够并行地为不同管理目标训练智能体。
引用
@article{arxiv.2306.14178,
title = {A Framework for dynamically meeting performance objectives on a service mesh},
author = {Forough Shahab Samani and Rolf Stadler},
journal= {arXiv preprint arXiv:2306.14178},
year = {2023}
}