多服务器系统中 Power-of-$d$ 负载均衡的普适性

我们考虑由 $N$ 个并行单服务器队列组成的系统，其服务速率均为单位指数分布，并设有一个调度器，任务以速率 $\lambda(N)$ 的泊松过程到达。当任务到达时，调度器从随机选取的 $d(N)$ 个服务器（$1 \leq d(N) \leq N$）中选择队列最短的服务器进行分配。这种负载均衡策略被称为 JSQ($d(N)$) 方案，它将对著名的加入最短队列（Join-the-Shortest Queue, JSQ）策略作为 $d(N) = N$ 时的重要特例包含在内。我们构造了一个随机耦合来界定 JSQ 策略与任意 $d(N)$ 值方案之间队列长度过程的差异。利用该耦合，我们推导了在 $N \to \infty$ 且 $d(N) \to\infty$ 同时 $\lambda(N) / N \to \lambda < 1$ 的渐近 regime 下的流体极限及其不动点。结果表明流体极限不依赖于 $d(N)$ 的确切增长率，特别地，与 JSQ 策略的流体极限一致。我们进一步利用该耦合证明，在临界 regime 下，当 $N \to \infty$ 且 $d(N)/(\sqrt{N} \log (N))\to\infty$ 时，$(N - \lambda(N)) / \sqrt{N} \to \beta > 0$，其扩散极限对应于 JSQ 策略的扩散极限。这些结果表明，JSQ 策略的最优性可以在流体层级和扩散层级上保持，同时将开销分别降低近 O($N$) 和 O($\sqrt{N}/\log(N)$) 倍。