随机路由至远程队列

我们研究了一种队列系统中的负载均衡问题，其中平行站点与客户之间存在距离。在存在旅行延迟的情况下，最短队列策略（JSQ）会引起队列长度振荡，并延长平均等待时间。因此，本文提出了一种称为随机最短队列策略（RJSQ）的JSQ变体，以缓解振荡现象。通过RJSQ策略，客户以大约与其服务容量成比例的概率被分配到每个站点；只有少数客户被故意路由到最短队列。将客户路由到最短队列的额外概率，称为平衡分数，决定了该策略的性能。当平衡分数处于某个范围内时，在重流情况下，站点之间的负载不平衡可以忽略，从而实现完全的资源池化。我们确定平衡分数的最佳数量级，从而提出了用于微调RJSQ策略的启发式公式。本文还考虑了地理分布分散站点的容量规划与负载均衡的联合问题。通过合理规划的服务容量，RJSQ策略会将除少数客户外的所有客户路由到最近的站点，从而使系统在所有客户都具有最小旅行延迟的情况下，渐近等价于一个聚合的单服务器系统。如果每个客户的服务需求不依赖于站点，那么RJSQ策略在减少工作负荷方面是渐近最优的。