通过代价最优 MDP 求解实现虚拟机扩展与负载均衡
网络与互联网体系结构
2019-04-05 v2
摘要
我们探讨了一个代价优化问题，该问题面向在由多台虚拟机（VM）构成的远程云配置中运行应用实例的用户。每台虚拟机运行一个单一应用实例，该实例可执行特定于该应用的任务。管理虚拟机涉及云相关需求与外部代价需求之间的复杂权衡，前者表现为租用云资源的供应成本，后者表现为通常与服务等级协议（SLA）绑定的服务收入。内部成本可能包括虚拟机部署/终止成本以及虚拟机租赁成本。外部代价是指由于每个应用实例成功完成任务而累积的奖励。在 SLA 将每台虚拟机的性能限制在一定负载水平的情况下，到达已达该水平的虚拟机的任务将被拒绝。拒绝会导致从奖励中扣除罚款。性能水平也被量化，即根据任务经历的平均延迟以延迟成本来衡量。属于此类问题的特定应用典型示例包括科学工作流处理和网络功能虚拟化（NFV）。我们通过将此问题建模为代价最优负载均衡到一个具有可变队列数量的排队系统来解决，其中队列（虚拟机）可以被部署、接收任务并被终止。我们通过马尔可夫决策过程（MDP）分析该系统，并数值求解以找到最优策略，该策略涵盖了上述成本和性能约束。在此约束框架内，我们还研究了平均虚拟机部署时间的影响。我们表明，最优策略具有依赖于多个参数的决策阈值。我们通过将外部计算任务流引导至部署在 AWS 上的实验设置，验证了由 MDP 找到的策略。
引用
@article{arxiv.1611.06956,
title = {VM Scaling and Load Balancing via Cost Optimal MDP Solution},
author = {Mark Shifrin and Roy Mitrany and Erez Biton and Omer Gurewitz},
journal= {arXiv preprint arXiv:1611.06956},
year = {2019}
}