FPGA上高带宽内存的基准测试
硬件体系结构
2020-05-12 v1
摘要
FPGA正开始增强高带宽内存（HBM），以缓解某些应用中遇到的内存带宽瓶颈，并赋予FPGA更多处理应用状态的容量。然而，HBM的性能特征仍未被充分明确，尤其在FPGA背景下。在本文中，我们通过在最先进的FPGA（即配备双栈HBM子系统的Xilinx Alveo U280）上对HBM进行基准测试，弥合名义规格与实际性能之间的差距。为此，我们提出Shuhai，一个基准测试工具，使我们能够揭开FPGA上HBM所有底层细节。基于FPGA的基准测试也应比在CPU/GPU上提供更准确的HBM图景，因为CPU/GPU由于其复杂的控制逻辑和缓存层次结构而是噪声更大的系统。由于内存本身很复杂，利用自定义硬件逻辑在FPGA内部进行基准测试可提供更多细节以及准确且确定的测量。我们观察到：1）HBM能够提供高达425GB/s的内存带宽；2）HBM的使用方式对性能有显著影响，这反过来证明了揭示HBM性能特征以选择最佳方法的重要性。作为基准，我们还将Shuhai应用于DDR4以展示HBM与DDR4之间的差异。Shuhai可轻松推广到其他FPGA板卡或其他代际的内存，例如HBM3和DDR3。我们将开源Shuhai，惠及社区。
引用
@article{arxiv.2005.04324,
title = {Benchmarking High Bandwidth Memory on FPGAs},
author = {Zeke Wang and Hongjing Huang and Jie Zhang and Gustavo Alonso},
journal= {arXiv preprint arXiv:2005.04324},
year = {2020}
}