大规模系统中 Power-of-$d$ 负载均衡的渐近最优性

我们考虑一个由 $N$ 个相同服务器池和单个调度器组成的系统，其中任务以速率 $\lambda(N)$ 的 Poisson 过程到达。到达的任务无法排队，必须立即分配给其中一个服务器池开始执行，否则将被丢弃。假设执行时间服从单位均值的指数分布，且不依赖于其他正在接受服务的任务数量。然而，体验到的性能（例如就接收到的吞吐量而言）会随着同一服务器池上并发任务数量的增加而下降。因此，调度器旨在将任务均匀分布在各个服务器池之间。具体而言，当任务到达时，调度器将其分配给从 $d(N)$ 个随机选择的服务器池中具有最少任务数的服务器池。这种分配策略称为 JSQ$(d(N))$ 方案，因为它类似于 Join-the-Shortest-Queue (JSQ) 策略的 power-of-$d$ 版本，并且在 $d(N) = N$ 的特殊情况下也将如此称呼。我们构建了一个随机耦合，以限制 JSQ 策略与具有任意 $d(N)$ 值的方案之间系统占用过程的差异。我们利用该耦合推导了当 $N \to \infty$ 时 $d(N) \to \infty$ 且 $\lambda(N)/N \to \lambda$ 情况下的流体极限及其相关的不动点。结果表明，流体极限对 $d(N)$ 的确切增长率不敏感，并与 JSQ 策略的流体极限一致。我们进一步利用该耦合证明，只要 $d(N)/\sqrt{N} \log(N) \to \infty$，扩散极限也对应于 JSQ 策略的扩散极限，并刻画了共同的极限扩散过程。这些结果表明，JSQ 最优性可以在流体水平和扩散水平上得以保持，同时将开销分别降低近 O($N$) 和 O($\sqrt{N}/\log(N)$) 倍。