Zephyrus:面向宇宙时代的 DPU 增强分层卸载网关
网络与互联网体系结构
2025-12-23 v2
摘要
在宇宙时代规模下,字节跳动的云网关部署在关键聚合点,以协调广泛的业务流量。然而,这种巨大的规模对我们上一代的云网关造成了巨大的资源压力,使得它们难以应对不断增长的云网络流量。随着 DPU 市场的快速扩张,我们看到一种承诺的路径,通过将 DPU 与我们已建立的 ToFino 网关集成来满足日益增长的业务流量需求。DPU 在不牺牲先前低延迟和高吞吐量转发的前提下,为这些网关提供了大容量的表格资源和更丰富的可编程性。尽管存在引人注目的优势,但将 DPU 实际集成到云网关中仍未得到探索,主要是由于 underlying 挑战。本文提出 Zephyrus,一个基于覆盖高性能 ToFino 和功能丰富 DPU 的统一 P4 流水线构建的生产级网关,成功克服了这些挑战。我们进一步引入分层协卸载架构(HLCO)来协调这个异构网关中的流量,实现超过 99% 的硬件卸载,同时保留软件后备路径以处理复杂操作。Zephyrus 在 LuoShen(NSDI '24)方面性能提升 33%,我们的评估进一步表明功耗降低 21%,硬件成本降低 14%。相对于基于 FPGA 的系统 Albatross(SIGCOMM '25),它在吞吐量上提升一倍,而总拥有成本(TCO)则大幅降低,凸显了其出色的性价比。除了这些性能提升之外,我们还分享了多年开发和运营 Zephyrus 生产规模的关键经验。我们相信这些见解为设计高性能云网关的研究者和从业者提供了有价值的参考。
引用
@article{arxiv.2510.11043,
title = {Zephyrus: Scaling Gateways Beyond the Petabit-Era with DPU-Augmented Hierarchical Co-Offloading},
author = {Yuemeng Xu and Haoran Chen and Jiarui Guo and Mingwei Cui and Qiuheng Yin and Cheng Dong and Daxiang Kang and Xian Wu and Chenmin Sun and Peng He and Yang Gao and Lirong Lai and Kai Wang and Hongyu Wu and Tong Yang and Xiyun Xu},
journal= {arXiv preprint arXiv:2510.11043},
year = {2025}
}