面向异构系统的通用“power-of-d”调度框架
网络与互联网体系结构
2021-12-21 v2 概率论
摘要
智能调度对于在大规模系统中获得低响应时间至关重要。一种常见的可扩展调度范式是“power-of-”，其中调度器随机查询 个服务器，并仅基于被查询服务器的状态分配作业。文献中研究的大多数 power-of- 策略假设系统是同质的，即所有服务器具有相同速度；而现实系统常表现出服务器速度异构性。本文引入一个用于描述和分析感知异构性的 power-of- 策略的通用框架。我们框架背后的关键思想是，调度策略可在两个决策点利用服务器速度信息：选择查询哪些 个服务器时，以及将作业分配给其中某个服务器时。我们的框架显式地将调度策略分离为查询规则和分配规则；我们考虑了两类规则的一般族。虽然最强的分配规则同时结合了详细的队列长度信息和服务器速度信息，但这些规则通常难以分析。我们通过聚焦于忽略空闲状态之外队列长度信息的感知异构性分配规则克服了这一困难。在此设定下，我们分析平均响应时间，并针对查询与分配的联合优化提出新的优化问题。我们基于优化策略开发了启发式队列长度感知调度策略。相对于文献中出现的策略，我们的启发式策略在仿真中表现良好。
引用
@article{arxiv.2112.05823,
title = {A General "Power-of-d" Dispatching Framework for Heterogeneous Systems},
author = {Jazeem Abdul Jaleel and Sherwin Doroudi and Kristen Gardner and Alexander Wickeham},
journal= {arXiv preprint arXiv:2112.05823},
year = {2021}
}