中文

基于输入的集成学习方法用于无服务器计算函数的动态内存配置

分布式、并行与集群计算 2024-11-13 v1 人工智能 系统与控制 系统与控制

摘要

在当今的函数即服务产品中,程序员通常负责为函数的成功执行配置函数内存,这会分配成比例的函数资源,如CPU和网络。然而,正确调整函数内存迫使开发者推测性能并做出临时配置决策。最近的研究强调,函数的输入特征,如输入大小、类型和输入数量,会显著影响其资源需求、运行时性能和成本,尤其是在工作负载波动的情况下。这种相关性进一步使得内存配置成为一项非平凡的任务。因此,一个输入感知的函数内存分配器不仅可以通过完全隐藏与资源相关的决策来提高开发者的生产力,而且还提供了减少资源浪费和提供更细粒度成本优化定价方案的机会。因此,我们提出了MemFigLess,一种具有输入感知能力的无服务器解决方案,用于估计无服务器函数的内存需求。该框架在离线阶段执行函数性能分析,并在收集的指标上训练一个多输出随机森林回归模型,以调用输入感知的最优配置。我们在AWS Lambda服务上使用最先进的方法评估了我们的工作,发现MemFigLess能够捕获输入感知的资源关系,并分配最多减少82%的资源,节省高达87%的运行时成本。

关键词

引用

@article{arxiv.2411.07444,
  title  = {Input-Based Ensemble-Learning Method for Dynamic Memory Configuration of Serverless Computing Functions},
  author = {Siddharth Agarwal and Maria A. Rodriguez and Rajkumar Buyya},
  journal= {arXiv preprint arXiv:2411.07444},
  year   = {2024}
}

备注

10 pages, 2 tables, 28 figures, accepted conference paper - UCC'24