AutoTSMM：一种用于构建 CPU 上高性能细长矩阵-矩阵乘法的自动调优框架
分布式、并行与集群计算
2025-01-24 v2
摘要
近年来，具有非规则形状输入矩阵的通用矩阵-矩阵乘法在深度学习等诸多应用中被广泛使用，并受到越来越多关注。然而，传统实现不适用于非规则形状矩阵-矩阵乘法，且鲜有工作关注 CPU 上细长（tall-and-skinny）矩阵-矩阵乘法的优化。本文提出一种自动调优框架 AutoTSMM，以构建高性能细长矩阵-矩阵乘法。AutoTSMM 在安装时阶段选择最优内部核，并在运行时阶段为预打包的细长矩阵-矩阵乘法生成执行计划。实验表明，与最先进的细长矩阵-矩阵乘法相比，AutoTSMM 取得了具竞争力的性能，并且优于所有传统的矩阵-矩阵乘法实现。
引用
@article{arxiv.2208.08088,
title = {AutoTSMM: An Auto-tuning Framework for Building High-Performance Tall-and-Skinny Matrix-Matrix Multiplication on CPUs},
author = {Chendi Li and Haipeng Jia and Hang Cao and Jianyu Yao and Boqian Shi and Chunyang Xiang and Jinbo Sun and Pengqi Lu and Yunquan Zhang},
journal= {arXiv preprint arXiv:2208.08088},
year = {2025}
}
备注
8 pages, 12 figures, published in IEEE ISPA 2021