设计低复杂度重负载延迟最优负载均衡方案：从理论到算法

我们为负载均衡系统建立了一个统一的分析框架，借此构建了一类通用的策略集合 $\Pi$，其中的策略同时具有吞吐量最优和重负载延迟最优的性质。这个通用类 $\Pi$ 包含了诸如 join-shortest-queue 和 power-of-$d$ 等流行策略作为特例，但不包括 join-idle-queue (JIQ) 策略。事实上，我们证明了不属于 $\Pi$ 的 JIQ 策略实际上并非重负载延迟最优。得益于 $\Pi$ 类提供的显著灵活性，我们能够设计一种名为 join-below-threshold (JBT-$d$) 的新策略，该策略保持了如 JIQ 等拉取式 (pull-based) 策略的简洁性，但能动态更新其阈值。我们证明了当阈值选择适当时，JBT-$d$ 属于 $\Pi$ 类，因此它是重负载延迟最优的。大量仿真表明，新策略不仅在消息速率上具有低复杂度，而且在各种系统设置下实现了优异的延迟性能，可与最优的 join-shortest-queue 相媲美。