从少量元素恢复最佳秩-r 近似
统计方法学
2021-11-12 v1 机器学习
摘要
在本注记中，我们研究如何从大矩阵的少量元素重建其最佳秩- 近似。我们表明，即便数据矩阵满秩且不能被低秩矩阵很好地近似，其最佳低秩近似仍可从少量元素中可靠地计算或估计。从统计视角看这尤为相关：数据矩阵的最佳低秩近似常比矩阵本身更受关注，因为它们捕捉了原本复杂的数据生成模型中更稳健且往往可复现的性质。具体地，我们考察两种不可知方法：第一种基于谱截断；第二种是基于投影梯度下降的优化过程。我们认为，尽管第一种方法直观且相当有效，第二种方法在一般情形下性能远优。我们表明误差取决于矩阵接近低秩的程度。文中给出理论与数值证据以展示所提方法的有效性。
引用
@article{arxiv.2111.06302,
title = {On Recovering the Best Rank-r Approximation from Few Entries},
author = {Shun Xu and Ming Yuan},
journal= {arXiv preprint arXiv:2111.06302},
year = {2021}
}