中文

在 Serverless 架构中,操作系统调度器的选择会增加成本:一种用于更廉价 FaaS 的混合调度方法

分布式、并行与集群计算 2024-11-14 v1

摘要

在函数即服务(FaaS)无服务器架构中,大型应用被拆分为短生命周期的无状态函数。部署函数对双方都有利:用户无需关心资源管理,而提供商可以在单台机器上并发运行数千个函数,保持服务器的高利用率。正是这种高并发带来了代价。标准 Linux 完全公平调度器(CFS)会在任务间频繁切换,导致执行时间延长。我们提供证据表明,依赖默认的 Linux CFS 调度器会使无服务器工作负载的成本增加高达 10 倍。本文旨在提高认识,并主张重新思考针对由许多短生命周期进程组成的无服务器工作负载的 Linux 操作系统级调度。为了使无服务器更加经济实惠,我们引入了一种依赖 FaaS 特性的混合两级调度方法。短运行时间函数以先进先出(FIFO)方式执行且不抢占,而长运行时间函数在一定时间后被移交给 CFS。我们表明,量身定制的操作系统调度能够在不增加任何提供商侧开销的情况下显著降低用户面向的成本。

关键词

引用

@article{arxiv.2411.08448,
  title  = {In Serverless, OS Scheduler Choice Costs Money: A Hybrid Scheduling Approach for Cheaper FaaS},
  author = {Yuxuan Zhao and Weikang Weng and Rob van Nieuwpoort and Alexandru Uta},
  journal= {arXiv preprint arXiv:2411.08448},
  year   = {2024}
}

备注

Accepted at Middleware 2024, author draft made available for timely dissemination