Meili:在云中实现SmartNIC即服务
网络与互联网体系结构
2024-08-01 v3 分布式、并行与集群计算
摘要
SmartNIC被誉网络应用卸载的极具吸引力的底层载体,在可编程性、节省主机资源和能效方面具有优势。当前的使用方式将卸载限制在本地主机,并将SmartNIC的所有权局限于单个应用团队,导致资源效率和可扩展性较差。本文提出了Meili,一种新颖的系统,将SmartNIC实现为服务以解决这些问题。Meili将异构SmartNIC资源组织为一个资源池,并为应用开发者提供统一的单NIC抽象。这使得开发者可以仅专注于应用逻辑,同时动态优化其性能需求。我们在NVIDIA BlueField系列和AMD Pensando SmartNIC上的评估表明,Meili实现了可扩展的单流吞吐量,最大延迟开销为8 {\mu}s,并且与独立部署相比,资源效率提高了3.07,与SOTA微服务部署相比提高了1.44。
引用
@article{arxiv.2312.11871,
title = {Meili: Enabling SmartNIC as a Service in the Cloud},
author = {Qiang Su and Shaofeng Wu and Zhixiong Niu and Ran Shu and Peng Cheng and Yongqiang Xiong and Zaoxing Liu and Hong Xu},
journal= {arXiv preprint arXiv:2312.11871},
year = {2024}
}