四种张量分解算法的实证评估
机器学习
2007-11-14 v1 计算与语言
信息检索
摘要
高阶张量分解类似于熟悉的奇异值分解 (SVD),但超越了矩阵(二阶张量)的局限性。SVD 是一种强大的工具,已在信息检索、协同过滤、计算语言学、计算视觉等领域取得了令人瞩目的成果。然而,SVD 仅限于二维数据数组(两种模式),而许多潜在应用具有三种或更多模式,这需要高阶张量分解。本文评估了四种高阶张量分解算法:高阶奇异值分解 (HO-SVD)、高阶正交迭代 (HOOI)、切片投影 (SP) 和多切片投影 (MP)。我们在各种条件下测量了这四种算法的时间(运行耗时)、空间(RAM 和磁盘空间需求)以及拟合度(张量重构精度)。我们发现,由于 RAM 需求增加,HO-SVD 和 HOOI 的标准实现无法扩展至更大的张量。我们建议对于适合可用 RAM 的小型张量使用 HOOI,而对于大型张量使用 MP。
引用
@article{arxiv.0711.2023,
title = {Empirical Evaluation of Four Tensor Decomposition Algorithms},
author = {Peter D. Turney},
journal= {arXiv preprint arXiv:0711.2023},
year = {2007}
}
评论
related work available at http://purl.org/peter.turney/