大规模且临界负载的power-of-d负载均衡系统中的平均等待时间

平均场模型是分析负载均衡策略的常用工具。某些情况下平均场极限的等待时间分布具有显式形式。其他情况下它可作为一个微分方程组的解来计算。本文研究当作业大小服从均值为1的指数分布时（即系统接近失稳），多种负载均衡策略在到达率$\lambda$趋于$1$时平均等待时间$E[W_\lambda]$的极限。由于$E[W_\lambda]$发散至无穷，我们以$-\log(1-\lambda)$为尺度，并给出计算极限$\lim_{\lambda\rightarrow 1^-}-E[W_\lambda]/\log(1-\lambda)$的方法。对所考虑的负载均衡算法，该极限具有惊人简单的形式。我们给出一个适用于任何满足一列假设的相关微分方程的通用结论。对于将到达作业分配给d台随机选中服务器中剩余工作量最小者的LL(d)策略，这些假设平凡成立。对该策略我们证明极限为$\frac{1}{d-1}$。我们进一步表明，将K个作业批次分配给d台随机选中服务器中K个负载最小者的LL(d,K)策略满足假设且极限等于$\frac{K}{d-K}$。对于以概率$p_i$应用LL($d_i$)的策略，我们证明极限为$\frac{1}{\sum_ip_id_i-1}$。我们进一步指出主要结果亦可用于带冗余或记忆的负载均衡器。此外，我们提出以$-\log(p_\lambda)$替代$-\log(1-\lambda)$的另一种尺度，其极限$\lim_{\lambda\rightarrow 0^+}-E[W_\lambda]/\log(p_\lambda)$定义良好且非零（不同于$\lim_{\lambda\rightarrow 0^+}-E[W_\lambda]/\log(1-\lambda)$），而$\lim_{\lambda\rightarrow 1^-}\log(1-\lambda) / \log(p_\lambda)=1$。