异构服务器环境下的可扩展负载均衡

异构性在现代大规模计算机系统中正变得日益普遍。为具有不同速度资源的系统设计良好的负载均衡策略，对于实现低响应时间至关重要。事实上，如何将作业分派到服务器是排队论文献中一个经典且被广泛研究的问题。然而，现有关于大规模系统的工作大多假设同构服务器；遗憾的是，在同构设定下表现良好的策略在异构系统中可能导致不可接受的糟糕性能——甚至不稳定。我们改编了 Join-the-Idle-Queue 和 Join-the-Shortest-Queue 策略的“power-of-d”版本，设计了两个相应的异构感知分派策略族，每个族由一对路由概率参数化。与异构无感知的对应策略不同，我们的策略在选择查询哪些服务器以及以概率方式决定在（被查询服务器中的）何处分派作业时，都利用了服务器速度信息。我们的两个策略族在分析上可处理：在标准假设下，当服务器数量趋于无穷时，我们的平均响应时间与队列长度分布分析是精确的。此外，我们的策略族实现了最大稳定性，并且在平均响应时间方面优于知名的分派规则——包括 Shortest-Expected-Delay 等异构感知策略。