超越时间复杂度：矩阵乘法的数据移动复杂度分析
数据结构与算法
2022-03-08 v1
摘要
在广泛的应用领域中，数据移动正成为计算时间与能耗成本的主导因素。然而，时间复杂度不足以分析数据移动。本工作扩展了近期提出的、用于内存感知算法分析的数据移动距离（Data Movement Distance）框架：1）证明其假设符合微架构趋势，2）将其应用于矩阵乘法的六种变体，3）表明其能够渐近区分具有相同时间复杂度但不同内存行为的算法，以及同一算法的局部性优化与非优化版本。在此过程中，我们试图通过结合渐近时间复杂度所用的操作计数分析与来自层次内存结构的每操作数据移动成本，来弥合理论与实践。此外，本文推导了递归矩阵乘法在 LRU 缓存系统上缺失率曲线的首个完全精确、完全解析形式。我们的结果表明，数据移动距离框架是工程师与算法设计者理解层次内存算法含义的有力工具。
引用
@article{arxiv.2203.02536,
title = {Beyond Time Complexity: Data Movement Complexity Analysis for Matrix Multiplication},
author = {Wesley Smith and Aidan Goldfarb and Chen Ding},
journal= {arXiv preprint arXiv:2203.02536},
year = {2022}
}
备注
11 pages