面向实时系统的分 Bank 带宽共享最后一级缓存控制
摘要
现代商用离散件（COTS）多核处理器具有提升内存层次结构和内存级并行性（MLP）的高级特性，这对于高性能至关重要。为支持高 MLP，共享最后一级缓存（LLC）被划分为多个 Bank，以实现并行访问。然而，来自核心的 cache 请求分布不均，尤其是当来自多个核心的请求集中在单个 Bank 上时，会导致显著的争用，影响访问该缓存的所有核心。这种 cache Bank 争用甚至可能被恶意诱导——已知为 cache Bank aware 拒绝服务（DoS）攻击，以危害系统时序可预测性。在本文中，我们提出了一种用于多 Bank 共享 LLC 基于多核实时系统的 per-Bank 带宽控制方法。通过对每个 Bank 进行带宽控制，该方法旨在防止对非争用 Bank 的不必要 throttling，从而在不损害 throttling 的隔离优势的前提下提高整体性能（吞吐量）。我们在基于 RISC-V 的系统级平台上使用 FireSim 实现该方法，并使用 synthetic 和 real-world 工作负载进行广泛评估。我们的评估结果表明，所提出的 per-Bank 控制方法有效地保护了来自 co-running cache Bank-aware DoS 攻击的实时任务，为受限的良好做事任务提供了最高可达 3.66 倍的性能提升，与以前的 Bank 无感带宽 throttling 方法相比。
引用
@article{arxiv.2410.14003,
title = {Per-Bank Bandwidth Regulation of Shared Last-Level Cache for Real-Time Systems},
author = {Connor Sullivan and Alex Manley and Mohammad Alian and Heechul Yun},
journal= {arXiv preprint arXiv:2410.14003},
year = {2025}
}
备注
Update to Fig. 11: The previous version used mismatched cache capacities between the 2-bank and 4-bank configurations in the simulation setup. This has been corrected to ensure both configurations have equal total cache capacity. As a result, the specific numerical results in Fig. 11 have changed. However, the overall trend shown in Fig. 11 and key findings of the paper remain consistent