中文

大规模数据中心负载均衡中延迟与粘性违约的权衡

网络与互联网体系结构 2017-07-11 v3

摘要

当前数据中心中实现的大多数负载均衡技术依赖于通过从流五元组计算的哈希值将数据包映射到服务器 IP 地址。哈希计算允许极快的数据包转发,并提供流“粘性”,这意味着属于同一流的所有数据包都被分派到同一台服务器。不幸的是,这种静态哈希可能无法产生最佳程度的负载均衡,例如,由于服务器处理速度或流量模式的变化。另一方面,动态方案(如 Join-the-Shortest-Queue (JSQ) 方案)提供了一种缓解负载不平衡的自然方式,但代价是牺牲粘性。在本文中,我们研究了大规模数据中心中粘性违约与数据包级延迟性能之间的基本权衡。我们确定,严格的流粘性在数据包级延迟方面带来了显著的性能损失。此外,将粘性要求放松极小的量在削减延迟分布的尾部方面非常有效。我们进一步提出了一种基于分箱的负载均衡方案,该方案在可扩展性、粘性违约和数据包级延迟性能之间实现了良好的平衡。广泛的仿真实验证实了分析结果,并验证了基于分箱的负载均衡方案的有效性。

关键词

引用

@article{arxiv.1703.10575,
  title  = {Delay versus Stickiness Violation Trade-offs for Load Balancing in Large-Scale Data Centers},
  author = {Qingkai Liang and Sem Borst},
  journal= {arXiv preprint arXiv:1703.10575},
  year   = {2017}
}