基于原型人机协同模仿学习的微软云风险感知自适应虚拟CPU过度订阅
人机交互
2024-01-17 v1
摘要
过度订阅是云服务中的常见做法,系统向用户或应用程序提供超过其可用物理容量的虚拟资源(如虚拟机中的虚拟核心),以减少因未使用/冗余容量导致的收入损失。虽然过度订阅可能显著提高资源利用效率,但需要注意的是,如果所有共置虚拟机都具有高利用率,则存在过载和在物理节点层面引入抖动的风险。因此,能够最大化利用率同时降低风险的合适过度订阅策略对于实现经济高效的无缝云体验至关重要。目前大多数云平台依赖关于过度订阅激活和限制的静态启发式决策,这要么导致过载,要么导致资源搁浅。设计一种能够适应资源利用模式并联合优化收益和风险的智能过度订阅策略在很大程度上是一个未解决的问题。我们通过提出的新颖的基于原型的人机协同模仿学习(ProtoHAIL)框架来应对这一挑战,该框架利用利用模式中的近似对称性来学习合适的策略。此外,我们的人机协同(知识注入)训练允许学习更安全的策略,这些策略对噪声和稀疏性具有鲁棒性。我们在真实数据上的实证研究表明,在微软云平台的第一方(内部服务)中,风险降低了几个数量级,收益(节省搁浅核心)显著增加。
引用
@article{arxiv.2401.07033,
title = {Risk-aware Adaptive Virtual CPU Oversubscription in Microsoft Cloud via Prototypical Human-in-the-loop Imitation Learning},
author = {Lu Wang and Mayukh Das and Fangkai Yang and Junjie Sheng and Bo Qiao and Hang Dong and Si Qin and Victor Rühle and Chetan Bansal and Eli Cortez and Íñigo Goiri and Saravan Rajmohan and Qingwei Lin and Dongmei Zhang},
journal= {arXiv preprint arXiv:2401.07033},
year = {2024}
}
备注
9 pages, 3 figures