无服务器平台中最优自动扩缩的非平稳梯度下降法
最优化与控制
2025-02-13 v2 概率论
摘要
为了高效管理无服务器计算平台，一个关键方面是服务的自动扩缩，即分配给服务的计算资源集随时间根据流量需求动态调整。其目标是在用户感知性能和能耗之间找到折衷。本文考虑“按请求扩缩”的自动扩缩模式，并研究每次一个“不幸”作业到达时（即到达时发现所有服务器都忙的作业）应生成多少个函数实例（或服务器）。我们通过随机优化方法解决此问题：开发了一种Kiefer-Wolfowitz类型的随机梯度下降方案，该方案在状态演化的单次运行上应用。在每次迭代中，所提出的方案计算一个估计值，即每次不幸作业到达时应生成的服务器数量，以最小化某个成本函数。在自然假设下，我们证明了我们的方案产生的估计序列是几乎必然渐近最优的。此外，我们证明其收敛速度为O(n^{-2/3})，其中n是迭代次数。从数学角度来看，自动扩缩引发的随机优化框架表现出非标准方面，我们从一般角度处理这些方面。我们考虑控制器只能获取底层随机系统瞬态行为（而非稳态行为）样本的设置。为了处理这一困难，我们开发了利用底层马尔可夫链混合时间性质的论证。通过数值模拟，我们验证了所提出的方法，并量化了其相对于现有常见扩容规则的增益。
引用
@article{arxiv.2502.01284,
title = {Non-Stationary Gradient Descent for Optimal Auto-Scaling in Serverless Platforms},
author = {Jonatha Anselmi and Bruno Gaujal and Louis-Sebastien Rebuffi},
journal= {arXiv preprint arXiv:2502.01284},
year = {2025}
}