Concury：一种快速轻量级的软件负载均衡器
网络与互联网体系结构
2019-08-07 v1
摘要
负载均衡器(LB)是云服务在资源间平衡负载的重要网络功能。运行在商用服务器上的有状态软件 LB 提供了灵活性、成本效益与数据包一致性。然而当前设计有两个主要局限：1) 状态以摘要形式存储，可能因摘要冲突导致数据包不一致；2) 数据平面需为每个新连接更新，频繁更新损害吞吐量与数据包一致性。本工作中，我们提出一种名为 Concury 的新型有状态软件 LB，这是首个解决这些问题的方案。Concury 的关键创新是一种算法方法，用以在频繁连接到达时存储与查找大规模网络状态，该方法内存开销精简、在网络变化下保持一致，且导致不频繁的数据平面更新。评估结果表明，相较于其他 LB 算法，Concury 算法在真实与合成数据中心流量下均提供 4 倍吞吐量并消耗更少内存，同时提供加权负载均衡与无错误命中。我们将 Concury 实现为部署于 CloudLab 的原型系统，并展示其在单线程上的吞吐量可达两块 10GbE 网卡最大容量的 62.5%，而在双线程上可达最大容量。
引用
@article{arxiv.1908.01889,
title = {Concury: A Fast and Light-weighted Software Load Balancer},
author = {Shouqian Shi and Chen Qian and Ye Yu and Xin Li and Ying Zhang and Xiaozhou Li},
journal= {arXiv preprint arXiv:1908.01889},
year = {2019}
}