张量化随机投影
机器学习
2020-03-12 v1 数据结构与算法
机器学习
摘要
我们提出一种新颖的随机投影技术，用于高效降低超高维张量的维度。基于高斯随机投影与 Johnson-Lindenstrauss 变换（JLT）的经典结果，我们分别提出了依赖于张量列（TT）与 CP 分解格式的两种张量化随机投影映射。这两种映射内存需求极低，且当输入为以 CP 或 TT 格式给出的低秩张量时可高效应用。我们的理论分析表明，JLT 中的稠密高斯矩阵可被以压缩形式隐式表示、带随机因子的低秩张量所替代，同时仍近似保持投影输入的欧氏距离。此外，我们的结果揭示，就实现相同失真比所需的随机投影规模而言，TT 格式显著优于 CP。合成数据上的实验验证了我们的理论分析并展示了 TT 分解的优越性。
引用
@article{arxiv.2003.05101,
title = {Tensorized Random Projections},
author = {Beheshteh T. Rakhshan and Guillaume Rabusseau},
journal= {arXiv preprint arXiv:2003.05101},
year = {2020}
}