Taurus：一种面向逐包机器学习的的数据平面架构
网络与互联网体系结构
2022-01-21 v2 机器学习
性能
摘要
新兴应用——云计算、物联网以及增强/虚拟现实——对响应迅速、安全且可扩展的数据中心网络提出了需求。这些网络目前在毫秒级延迟的慢速控制平面下实现简单的逐包数据平面启发式算法（如 ECMP 和 sketches），该控制平面运行数据驱动的性能与安全策略。然而，为满足现代数据中心中应用的服务级目标（SLOs），网络必须弥合线速逐包执行与复杂决策制定之间的差距。在本工作中，我们提出 Taurus 的设计与实现，一种用于线速推理的数据平面。Taurus 基于灵活的并行模式（MapReduce）抽象，向交换机和 NIC 等可编程网络设备添加定制硬件；该新硬件利用流水线 SIMD 并行来实现逐包 MapReduce 操作（如推理）。我们对支持若干真实模型的 Taurus 交换机 ASIC 的评估表明，Taurus 比基于服务器的控制平面快数个数量级，同时面积增加 3.8%，线速 ML 模型的延迟最多增加 221 ns。此外，我们的 Taurus FPGA 原型实现了完整的模型精度，并比最先进的的控制平面异常检测系统多检测出两个数量级的事件。
引用
@article{arxiv.2002.08987,
title = {Taurus: A Data Plane Architecture for Per-Packet ML},
author = {Tushar Swamy and Alexander Rucker and Muhammad Shahbaz and Ishan Gaur and Kunle Olukotun},
journal= {arXiv preprint arXiv:2002.08987},
year = {2022}
}
备注
16 pages