利用张量对称性实现高性能:与对称张量的乘法
数值分析
2014-10-21 v3 数学软件
摘要
对称张量运算出现在各种各样的计算中。然而,利用对称性来减少存储和计算的好处与简化内存访问模式的愿望相冲突。在本文中,我们提出了一种分块数据结构(分块紧凑对称存储,Blocked Compact Symmetric Storage),其中我们将张量视为分块形式,并仅存储对称张量的唯一块。我们提出了一种按块设计的算法,该算法已被证明对矩阵计算有益,它通过利用一系列临时张量来避免冗余计算,从而利用这种存储格式。此外,利用临时张量内的部分对称性进一步避免了冗余存储和冗余计算。详细分析表明,相对于不利用对称性和部分对称性来存储和计算张量,存储需求减少了 倍,计算需求减少了 倍,其中 是张量的阶数。然而,正如分析所示,必须谨慎选择正确的块大小以确保实现这些存储和计算效益(特别是对于低阶张量)。实现结果表明存储量大幅减少,且按块存储和计算张量所引入的复杂性是可控的。初步结果表明计算时间也有所减少。本文最后讨论了本文中的见解如何指向将线性代数库领域的最新进展推广到多线性计算领域的机会。
引用
@article{arxiv.1301.7744,
title = {Exploiting Symmetry in Tensors for High Performance: Multiplication with Symmetric Tensors},
author = {Martin D. Schatz and Tze Meng Low and Robert A. van de Geijn and Tamara G. Kolda},
journal= {arXiv preprint arXiv:1301.7744},
year = {2014}
}