公共云中的加速器即服务：面向性能隔离的主机内流量管理视角
操作系统
2024-07-16 v1 硬件体系结构
分布式、并行与集群计算
网络与互联网体系结构
性能
摘要
公共云中的 I/O 设备已集成日益增多的硬件加速器，例如 AWS Nitro、Azure FPGA 和 Nvidia BlueField。然而，这些专业计算 (1) 无法向云用户显式访问且无法保证性能，(2) 也无法同时被提供者和用户利用，与通用计算（如 CPU）不同。通过十个观察，我们指出， democratizing 加速器的根本困难在于Insufficient 性能隔离支持。执行加速器隔离的关键障碍包括 (1) 公共云中流量模式数量众多且未知，(2) 数据路径中可能的争用来源数量众多。本文提出，将流量建模为网络流并主动重塑流量以避免不可预测的争用，而非实时调度复杂流量或在每个系统组件上增添隔离支持。我们讨论了这些发现对未来 I/O 管理堆栈和设备接口设计的含义。
引用
@article{arxiv.2407.10098,
title = {Accelerator-as-a-Service in Public Clouds: An Intra-Host Traffic Management View for Performance Isolation in the Wild},
author = {Jiechen Zhao and Ran Shu and Katie Lim and Zewen Fan and Thomas Anderson and Mingyu Gao and Natalie Enright Jerger},
journal= {arXiv preprint arXiv:2407.10098},
year = {2024}
}