更新还是不更新？：面向DRAM缓存的带宽高效智能替换策略
硬件体系结构
2019-07-05 v1
摘要
本文研究用于提升吉规模DRAM缓存命中率的智能替换策略。缓存替换策略常用于改善片上缓存的命中率。最有效的替换策略通常要求缓存跟踪每行的重用状态以辅助决策。然而，DRAM缓存上的一个根本挑战是，有状态策略需要大量带宽来维护每行的DRAM缓存状态。因此，DRAM缓存替换策略主要是无状态策略，如始终安装或概率旁路。遗憾的是，我们发现无状态策略通常过于粗粒度，在DRAM缓存的容量与相联度下变得无效。理想情况下，我们需要一种既能获得有状态替换策略的命中率收益、又保持无状态策略带宽效率的替换策略。在我们的研究中，发现跟踪每行重用状态可实现一种有效的替换策略，能缓解吉规模缓存中常见的抖动模式。我们提出一种称为RRIP Age-On-Bypass（RRIP-AOB）的有状态替换/旁路策略，其对高重用行跟踪重用状态，通过旁路其他行来保护这些行，并在缓存旁路时对状态进行老化（Age）。遗憾的是，此类有状态技术需要大量带宽来更新状态。为此，我们提出高效重用跟踪（ETR）。ETR通过精确跟踪一个区域中仅一行的状态，并利用该行状态指导该区域其他行的替换决策，使状态跟踪高效化。ETR将跟踪替换状态的带宽降低70%，并使有状态策略在DRAM缓存中切实可行。我们在2GB DRAM缓存上的评估表明，RRIP-AOB与ETR技术提供18%的加速，同时仅需少于1KB的SRAM。
引用
@article{arxiv.1907.02167,
title = {To Update or Not To Update?: Bandwidth-Efficient Intelligent Replacement Policies for DRAM Caches},
author = {Vinson Young and Moinuddin K. Qureshi},
journal= {arXiv preprint arXiv:1907.02167},
year = {2019}
}