一种用于缓存替换的模仿学习方法
机器学习
2020-07-13 v2 硬件体系结构
机器学习
摘要
程序执行速度关键取决于提高缓存命中率，因为缓存命中比未命中快几个数量级。为提高缓存命中率，我们关注缓存替换问题：在插入新行时选择驱逐哪一行缓存。这具有挑战性，因为它需要长远规划，且目前尚无已知实用解。因此，当前的替换策略通常求助于针对特定常见访问模式设计的启发式方法，这些方法在更多样和复杂的访问模式上会失效。相比之下，我们提出一种模仿学习方法，通过利用 Belady's（一种给定未来缓存访问计算最优驱逐决策的预言机策略）自动学习缓存访问模式。虽然直接应用 Belady's 不可行（因为未来未知），我们训练了一个仅以过去访问为条件的策略，即使在多样和复杂的访问模式上也能精确近似 Belady's，并将此方法称为 Parrot。在 13 个最耗费内存的 SPEC 应用上评估时，Parrot 相比当前最优方法将缓存未命中率降低了 20%。此外，在一个大规模网页搜索基准上，Parrot 相比传统 LRU 策略将缓存命中率提高了 61%。我们发布了一个 Gym 环境以促进该领域研究，因为数据充足，且进一步进展可能产生显著现实影响。
引用
@article{arxiv.2006.16239,
title = {An Imitation Learning Approach for Cache Replacement},
author = {Evan Zheran Liu and Milad Hashemi and Kevin Swersky and Parthasarathy Ranganathan and Junwhan Ahn},
journal= {arXiv preprint arXiv:2006.16239},
year = {2020}
}
备注
International Conference on Machine Learning (ICML), 2020