非退化减速体制下的负载均衡

我们分析了一种称为非退化减速（Non-Degenerate Slowdown, NDS）体制的当代缩放体制中的最短队列优先（Join-the-Shortest-Queue, JSQ）策略。JSQ 是针对具有多个并行服务器的排队系统的经典负载均衡策略。具有并行服务器的排队系统通常通过 Halfin-Whitt 缩放体制下获得的扩散近似来分析和确定规模。然而，当作业必须在到达时分发到服务器时，我们主张使用非退化减速（NDS）体制来比较不同的负载均衡规则。在本文中，我们确定了新颖的扩散近似和时间尺度分离，从而深入了解了 JSQ 的性能。我们计算了将作业不可撤销地分发到服务器的代价，并证明该代价与那些可能在服务器之间调动作业的规则相比，在 NDS 体制内相差在 15% 以内。我们还将 JSQ 策略的结果与许多现代负载均衡策略（如空闲队列优先（Idle-Queue-First）和 Power-of-$d$-choices 策略，它们作为 JSQ 策略的低信息代理）的 NDS 近似进行了比较。我们的分析引导我们构建了新的规则，这些规则具有与 JSQ 相同的性能，但比 power-of-2-choices 需要更少的通信开销。