非线性低秩矩阵估计的基本极限
机器学习
2024-03-08 v1 机器学习
摘要
我们考虑从非线性和含噪观测中估计低秩矩阵的任务。我们证明了一个强普适性结果,表明贝叶斯最优性能由一个具有有效先验的等效高斯模型刻画,其参数完全由非线性函数的展开式确定。特别地,我们表明要准确重构信号,需要信噪比以 的速度增长,其中 是该函数的第一个非零费雪信息系数。我们为最小可实现均方误差(MMSE)提供了渐近刻画,并提供了一种近似消息传递算法,该算法在与该问题线性版本类似的条件下可达到 MMSE。我们还提供了主成分分析结合贝叶斯去噪等方法所实现的渐近误差,并将其与贝叶斯最优 MMSE 进行了比较。
引用
@article{arxiv.2403.04234,
title = {Fundamental limits of Non-Linear Low-Rank Matrix Estimation},
author = {Pierre Mergny and Justin Ko and Florent Krzakala and Lenka Zdeborová},
journal= {arXiv preprint arXiv:2403.04234},
year = {2024}
}
备注
42 pages, 2 figures