利用期望命中次数提升 Belady 启发式替换策略的有效性
硬件体系结构
2018-08-16 v1
摘要
内存密集型工作负载处理海量数据，现代处理器的末级缓存（LLCs）无法容纳。因此，处理器频繁遭遇片外缺失，损失显著的性能潜力。减少片外缺失数量的一种方法是于 LLC 中使用行为良好的替换策略。现有处理器采用最近最少使用（LRU）策略的变体来确定被替换的牺牲块。遗憾的是，LRU 所提供的与 Belady 的 MIN（最优替换策略）之间存在巨大差距。Belady 的 MIN 需选择重用距离最长的牺牲块，因而由于需预知未来而不可行。因此，Belady 启发式替换策略利用 Belady 的 MIN 推导一个指示符以辅助选择牺牲块。本工作中，我们表明最先进的 Belady 启发式替换策略所使用的指示符在相当多的情况下对挑选牺牲块并不具决定性，因而该策略须依赖标准度量（如最近性或频率）来挑选牺牲块，效率低下。我们观察到，当 Belady 的 MIN 作为替换策略时，同一内存区域内各缓存块的命中次数间存在强相关性。利用此观察，我们提出一种面向内存区域的期望命中次数指示符，并在主指示符不具决定性时用以改进 Belady 启发式替换策略的牺牲块选择机制。相较基线 LRU，我们的方案带来 5.2% 的性能提升，并优于最先进的替换策略 Hawkeye。
引用
@article{arxiv.1808.05024,
title = {Making Belady-Inspired Replacement Policies More Effective Using Expected Hit Count},
author = {Seyed Armin Vakil Ghahani and Sara Mahdizadeh Shahri and Mohammad Bakhshalipour and Pejman Lotfi-Kamran and Hamid Sarbazi-Azad},
journal= {arXiv preprint arXiv:1808.05024},
year = {2018}
}