LB 可扩展性：在状态保持与无状态之间取得恰当平衡
网络与互联网体系结构
2020-10-27 v1
摘要
高性能第四层负载均衡器（LB）是云服务基础设施最重要的组件之一。此类 LB 利用网络和传输层信息来决定如何将客户端请求分发到一组服务器上。有状态 LB 的一个关键需求是每连接一致性（PCC），即只要服务器存活，即便服务器池或分配函数发生变化，同一连接的所有数据包都将被转发至同一服务器。挑战在于设计兼具高吞吐、低延迟且可扩展的方案。本文提出一种名为 Prism 的极高可扩展性 LB，使用可编程交换 ASIC 实现。据我们所知，Prism 是首个报道的每秒可处理数百万连接、总计数亿连接且保证 PCC 的 LB。这是因为 Prism 即使在服务器池变更期间也在硬件中转发所有数据包，同时避免了为每个活跃连接维护硬件状态的需要。我们实现了所提架构的原型，并展示 Prism 可扩展至 1 亿并发连接，且每秒可容纳超过一次池更新。
引用
@article{arxiv.2010.13385,
title = {LB Scalability: Achieving the Right Balance Between Being Stateful and Stateless},
author = {Reuven Cohen and Matty Kadosh and Alan Lo and Qasem Sayah},
journal= {arXiv preprint arXiv:2010.13385},
year = {2020}
}