ISLET：通过重要性草图实现快速最优低秩张量回归
机器学习
2020-05-11 v2 机器学习
数值分析
数值分析
统计理论
统计方法学
统计理论
摘要
本文提出一种用于低秩张量回归的新方法，即\emph{\underline{I}mportance \underline{S}ketching \underline{L}ow-rank \underline{E}stimation for \underline{T}ensors}（ISLET，张量重要性草图低秩估计）。ISLET 的核心思想是\emph{重要性草图}，即基于响应变量与感兴趣参数的低维结构精心设计的草图。我们证明，在低秩 Tucker 假设与随机高斯系综设计下，所提方法在均方误差意义上达到锐利极小极大最优。此外，若张量具有组稀疏的低秩结构，我们的过程也达到极小极大最优。进一步，我们通过数值实验表明，ISLET 取得了与现有最先进方法相当或更优的均方误差表现，同时具有显著的存储与运行时间优势，包括并行与分布式计算能力。特别地，我们的过程可对维度 的张量进行可靠估计，且比基线方法快 1 到 2 个数量级。
引用
@article{arxiv.1911.03804,
title = {ISLET: Fast and Optimal Low-rank Tensor Regression via Importance Sketching},
author = {Anru Zhang and Yuetian Luo and Garvesh Raskutti and Ming Yuan},
journal= {arXiv preprint arXiv:1911.03804},
year = {2020}
}