KnapsackLB：实现性能感知的四层负载均衡
分布式、并行与集群计算
2024-04-30 v1
摘要
四层负载均衡器（Layer-4 load balancer, LB）是在线服务的关键构建块。在本文中，我们赋予此类 LB 适应后端实例（DIP）不同且动态变化的性能的能力。我们的系统 KNAPSACKLB 是通用的（可与各种 LB 协同工作），不需要在 DIP、LB 或客户端上部署代理，并且可扩展至大量 DIP。KNAPSACKLB 使用审慎的主动探测来学习从 LB 权重到每个 DIP 响应延迟的映射，然后应用整数线性规划（Integer Linear Programming, ILP）计算优化延迟的 LB 权重，并使用迭代方法将计算扩展至大量 DIP。通过测试平台实验和仿真，我们表明 KNAPSACKLB 能根据性能均衡负载流量，且与现有设计相比，平均延迟最多降低 45%。
引用
@article{arxiv.2404.17783,
title = {KnapsackLB: Enabling Performance-Aware Layer-4 Load Balancing},
author = {Rohan Gandhi and Srinivas Narayana},
journal= {arXiv preprint arXiv:2404.17783},
year = {2024}
}