DFacTo: 张量的分布式分解
机器学习
2014-06-19 v1
摘要
我们提出了一种技术,用于显著加速交替最小二乘(ALS)和梯度下降(GD)这两种广泛使用的张量分解算法。通过利用Khatri-Rao积的性质,我们展示了如何高效地处理这两种算法中计算上具有挑战性的子步骤。我们的算法DFacTo仅需要两个稀疏矩阵-向量乘积,并且易于并行化。DFacTo不仅具有可扩展性,而且在各种数据集上平均比竞争算法快4到10倍。例如,DFacTo在4台机器上仅需480秒即可完成ALS算法的一次迭代,而在一个具有12亿非零元素的650万×250万×150万维张量上,完成GD算法的一次迭代需要1143秒。
引用
@article{arxiv.1406.4519,
title = {DFacTo: Distributed Factorization of Tensors},
author = {Joon Hee Choi and S. V. N. Vishwanathan},
journal= {arXiv preprint arXiv:1406.4519},
year = {2014}
}
备注
Under review for NIPS 2014