高效杠杆得分抽样用于张量训练分解
数据结构与算法
2024-06-07 v2
摘要
张量训练（Tensor Train, TT）分解在机器学习和量子物理领域广泛用于高维张量数据的高效压缩。本文提出一种高效算法，以准确杠杆得分抽样加速基于交替最小二乘（ALS）算法的TT分解。为此，我们提出一种数据结构，使我们能够以对数时间复杂度对张量进行抽样。我们的具体贡献利用TT分解的标准形式。通过在ALS的每个迭代中保持标准形式，我们能够高效计算（并从中抽样）杠杆得分，从而显著加速求解每个草图最小二乘问题。在稠密和稀疏张量上的合成数据和真实数据实验表明，我们的方法在速度和精度上均优于基于SVD和ALS的算法。
引用
@article{arxiv.2406.02749,
title = {Efficient Leverage Score Sampling for Tensor Train Decomposition},
author = {Vivek Bharadwaj and Beheshteh T. Rakhshan and Osman Asif Malik and Guillaume Rabusseau},
journal= {arXiv preprint arXiv:2406.02749},
year = {2024}
}