中文

非线性低秩矩阵估计的基本极限

机器学习 2024-03-08 v1 机器学习

摘要

我们考虑从非线性和含噪观测中估计低秩矩阵的任务。我们证明了一个强普适性结果,表明贝叶斯最优性能由一个具有有效先验的等效高斯模型刻画,其参数完全由非线性函数的展开式确定。特别地,我们表明要准确重构信号,需要信噪比以 N12(11/kF)N^{\frac 12 (1-1/k_F)} 的速度增长,其中 kFk_F 是该函数的第一个非零费雪信息系数。我们为最小可实现均方误差(MMSE)提供了渐近刻画,并提供了一种近似消息传递算法,该算法在与该问题线性版本类似的条件下可达到 MMSE。我们还提供了主成分分析结合贝叶斯去噪等方法所实现的渐近误差,并将其与贝叶斯最优 MMSE 进行了比较。

关键词

引用

@article{arxiv.2403.04234,
  title  = {Fundamental limits of Non-Linear Low-Rank Matrix Estimation},
  author = {Pierre Mergny and Justin Ko and Florent Krzakala and Lenka Zdeborová},
  journal= {arXiv preprint arXiv:2403.04234},
  year   = {2024}
}

备注

42 pages, 2 figures