重量级异构服务器的零等待负载均衡
计算机视觉与模式识别
2025-09-30 v1
摘要
我们研究了在重量级场景下，具有异构服务器的大规模负载均衡系统的稳态延迟性能。该系统由N个服务器组成，每个服务器都有一个大小为b-1的本地缓冲区，以先进先出（FIFO）顺序服务作业。作业按照速率为λN的泊松过程到达，其中λ = 1 - N^{-α}，其中α ∈ (0,1)。服务时间假设为指数分布，具有完全异构的速率，其中每个服务器的服务速率可以不同且可能随系统规模N而变化。我们研究了一种基于队列长度和服务速率的负载均衡策略，Join-the-Fastest-Shortest-Queue（JFSQ），并证明它在重量级场景下实现渐近零等待时间和概率，包括亚半分肯特（Sub-Halfin-Whitt，α ∈ (0,0.5)）和超半分肯特（Super-Halfin-Whitt，α ∈ [0.5,1)） regime。等待时间和概率的性能界限显式捕获了相对于系统规模N的收敛速率，并显示了服务器异构性的负面影响。我们的分析基于Stein方法的通用框架，使用迭代状态空间剥离，其中我们设计一系列Lyapunov函数来分析不假设交换性和单调性的高维异构系统。我们的分析表明，JFSQ有效地利用了具有更高容量的服务器，稳态系统可通过Stein方法与单个服务器队列耦合。据我们所知，这是首个建立规模为N且具有完全异构服务器的负载均衡系统延迟性能界限的工作。
引用
@article{arxiv.2509.23917,
title = {Bridging the Task Gap: Multi-Task Adversarial Transferability in CLIP and Its Derivatives},
author = {Kuanrong Liu and Siyuan Liang and Cheng Qian and Ming Zhang and Xiaochun Cao},
journal= {arXiv preprint arXiv:2509.23917},
year = {2025}
}