$\lambda$-NIC：基于可编程智能网卡的交互式无服务器计算
网络与互联网体系结构
2019-09-27 v1 分布式、并行与集群计算
摘要
无服务器计算作为一种云计算模型日益受到关注，它自动分配和管理基础设施资源，且仅按用户实际使用资源计费。流处理等工作负载受益于这些无服务器框架的高弹性和细粒度定价。然而，迄今为止，服务器 CPU 有限的并发性和高延迟阻碍了许多交互式工作负载（如 Web 服务器和数据库客户端）利用无服务器计算实现高性能。本文认为服务器 CPU 不适合运行无服务器工作负载（即 lambdas），并提出 -NIC——一个开源框架，直接在智能网卡（SmartNIC）上运行交互式工作负载；更具体地，基于 ASIC 的网卡，由密集的网络处理单元（NPU）核阵列组成。-NIC 利用 SmartNIC 靠近网络的特性及大量 NPU 核，在单个网卡上同时运行数千个 lambda，并提供严格尾延迟保证。为简化 lambda 的开发与部署，-NIC 提供基于事件的编程抽象 Match+Lambda，以及允许开发者在 SmartNIC 上轻松组合和执行 lambda 的机器模型。我们的评估显示，-NIC 在工作负载响应延迟和吞吐量上分别实现高达 880 倍和 736 倍的提升，同时显著降低主机 CPU 和内存使用。
引用
@article{arxiv.1909.11958,
title = {$\lambda$-NIC: Interactive Serverless Compute on Programmable SmartNICs},
author = {Sean Choi and Muhammad Shahbaz and Balaji Prabhakar and Mendel Rosenblum},
journal= {arXiv preprint arXiv:1909.11958},
year = {2019}
}