中文

Oobleck:面向容错加速器的低牺牲设计

硬件体系结构 2025-07-01 v1

摘要

数据中心硬件刷新周期在延长。然而,日益增长的处理器复杂度正在提高故障潜在风险。为了应对日益脆弱的数据路径,尤其是芯片级加速器数据路径,需要容错技术。以往为加速器设计添加容错的方法需要大量面积,降低芯片利用率。我们提出了一种新的加速器容错架构,Oobleck,通过模块化加速实现容错,无需高额的面积要求。为简化开发并强制执行模块化约定,我们引入了 Viscosity 语言,这是一种基于演员的方式的硬件软件协同设计方法。Viscosity 使用单一的加速器功能描述生成硬件和软件描述。我们对数据中心的高层模型表明,该方法可以在不影响总体吞吐量的前提下,减少数据中心因故障导致的芯片采购,从而降低数据中心成本。为展示该方法的可行性,我们展示了三个案例研究:FFT、AES 和 DCT 加速器。我们还分析了关键参数下的性能。在单一故障情况下,针对加速应用可保持 1.7 倍至 5.16 倍的速度提升,相对于纯软件实现。通过向芯片中添加热备用 FPGA 还可进一步获得额外好处。

关键词

引用

@article{arxiv.2506.22654,
  title  = {Oobleck: Low-Compromise Design for Fault Tolerant Accelerators},
  author = {Guy Wilks and Brian Li and Jonathan Balkind},
  journal= {arXiv preprint arXiv:2506.22654},
  year   = {2025}
}