CILP:基于协同仿真的模仿学习器用于云计算环境中的动态资源供给
系统与控制
2023-04-18 v2 机器学习
系统与控制
摘要
智能虚拟机(VM)供给是云计算环境中成本与资源高效计算的核心。由于引导VM耗时,对延迟关键任务的一个关键挑战是预测未来工作负载需求以主动供给VM。然而,现有基于AI的解决方案往往未整体考虑所有关键方面,如供给开销、异构VM成本以及云系统的服务质量(QoS)。为此,我们提出一种称为CILP的新方法,将VM供给问题表述为预测与优化两个子问题,其中供给计划基于预测的工作负载需求进行优化。CILP利用神经网络作为代理模型,借助基础设施的协同仿真数字孪生预测未来工作负载需求并计算QoS分数。我们将神经网络扩展为亦充当模仿学习器,动态决定最优VM供给计划。基于transformer的神经模型降低了训练与推理开销,而我们新颖的两阶段决策循环有助于做出明智的供给决策。关键的是,我们通过将资源利用率、部署成本和供给开销纳入我们的模仿学习框架以告知供给决策,从而解决了先前工作的局限。在三个公开基准上的实验表明,与当前基于在线和离线优化的最先进方法相比,CILP可带来高达22%更高的资源利用率、14%更高的QoS分数以及44%更低的执行成本。
引用
@article{arxiv.2302.05630,
title = {CILP: Co-simulation based Imitation Learner for Dynamic Resource Provisioning in Cloud Computing Environments},
author = {Shreshth Tuli and Giuliano Casale and Nicholas R. Jennings},
journal= {arXiv preprint arXiv:2302.05630},
year = {2023}
}
备注
Accepted in IEEE Transactions on Network and Service Management