并行服务器模型中的分布式派单

随着云服务与数据中心规模和流量的快速增长，具有多个作业派发器的架构正迅速成为常态。负载均衡是此类系统的关键要素。然而，当前此类系统的负载均衡方案存在一种矛盾行为：关于服务器队列长度的更准确信息会因羊群效应和有害的 incast 效应而降低性能。确实，无论在理论还是实践中，关于多派发器负载均衡中信息价值的疑问都很常见。因此，研究者和系统设计者都求助于更直接的方案，例如 power-of-two-choices 以避免最坏情况，却可能牺牲整体资源利用率与系统性能。我们研究的一个核心关注点是多派发器设定下队列长度信息的价值。我们认为，多派发器负载均衡本质上是一项分布式计算任务。基于此，我们提出一种称为 Tidal Water Filling 的新作业派发方法，以应对系统的分布式特性。具体而言，通过将其他派发器的存在纳入决策过程，我们的协议在许多场景下优于以往的解决方案。特别是当派发器拥有关于服务器队列的完整准确信息时，我们的策略显著优于所有现有方案。