论矩阵补全与近似中的自适应能力
机器学习
2014-07-15 v1 机器学习
摘要
我们考虑从缺失数据中进行矩阵补全和矩阵近似的相关任务,并为这两个问题提出了自适应采样程序。我们表明,自适应采样可以消除被动采样程序所必需的关于矩阵行空间的标准非相干性假设。对于低秩矩阵的精确恢复,我们的算法审慎地选择少量列进行完整观测,并通过少量额外测量将剩余列投影到其张成的空间上。该算法使用 次观测即可精确恢复一个 的秩 矩阵,其中 是矩阵列空间上的相干性参数。除了完全消除文献中普遍存在的行空间假设外,该算法还享有比任何现有矩阵补全算法更优的样本复杂度。为了证明这种改进源于自适应采样,我们确立了行空间相干性是被动采样算法实现非平凡样本复杂度界限的必要条件。对于构建高秩输入矩阵的低秩近似,我们提出了一种简单的算法,该算法对输入矩阵的零填充版本的奇异值进行阈值处理。该算法使用 个样本计算出的近似值几乎与最佳秩 近似一样好,其中 是矩阵列上略有不同的相干性参数。同样,我们消除了对行空间的假设。
引用
@article{arxiv.1407.3619,
title = {On the Power of Adaptivity in Matrix Completion and Approximation},
author = {Akshay Krishnamurthy and Aarti Singh},
journal= {arXiv preprint arXiv:1407.3619},
year = {2014}
}