中文

五分钟法则四十年后:基于第一性原理的现代内存层次体系重访

硬件体系结构 2026-05-12 v2

摘要

1987 年,Jim Gray 和 Gianfranco Putzolu 提出了五分钟法则,这是一种基于存储-内存经济学的简单 heuristic,用于决定数据应存储在 DRAM 而非存储器中。后续对该法则的再研究大多保留了仅从经济学角度观察的视角,未考虑主机成本、可行性限制以及工作负载行为。本文从第一性原理重新审视该法则,将主机成本、DRAM 带宽/容量以及基于物理模型的 SSD 性能与成本纳入分析,并构建受约束且关注工作负载的框架,提供可操作的资源配置指导。我们表明,对于现代 AI 平台,尤其是配备超高 IOPS SSD(针对细粒度随机访问设计)的 GPU 主导主机,DRAM 与闪存之间的缓存阈值将从分钟级压缩至几秒级。这一转变将 NAND 闪存内存重新定义为“活数据层”,并暴露出整个硬件-软件堆栈中广阔的研究空间。我们进一步引入 MQSim-Next,这是一款经过校准的 SSD 模拟器,支持验证与灵敏度分析,促进未来的架构与系统研究。最后,我们提供两个具体案例,展示由此内存层次体系转变所开启的软件系统设计空间。总体而言,我们将一个古老的 heuristic 转化为一个具有可行性意识的可操作分析与配置框架,为 AI 时代的内存层次体系研究奠定基础。

关键词

引用

@article{arxiv.2511.03944,
  title  = {Five-Minute Rule 40 Years Later: A First-Principles Revisit for Modern Memory Hierarchy},
  author = {Tong Zhang and Vikram Sharma Mailthody and Fei Sun and Linsen Ma and Chris J. Newburn and Teresa Zhang and Yang Liu and Jiangpeng Li and Hao Zhong and Wen-Mei Hwu},
  journal= {arXiv preprint arXiv:2511.03944},
  year   = {2026}
}

备注

15 pages, 10 figures