矩阵感知的基本极限：精确渐近、普适性及应用
机器学习
2025-11-13 v2 无序系统与神经网络
信息论
机器学习
math.IT
概率论
摘要
在矩阵感知问题中，人们希望从沿给定方向的（可能含噪声的）线性观测中重建矩阵。我们在高维极限下考虑该模型：此前该模型的工作主要关注低秩矩阵的恢复，而本工作考虑了更通用的结构化信号矩阵类，其秩可能很大，例如两个尺寸与维度成比例的矩阵的乘积。我们提供了刻画从与矩阵条目数成比例的样本数量中获得贝叶斯最优学习性能的严格渐近方程。我们的证明由三个关键要素组成：(i) 我们证明了普适性性质以处理结构化感知矩阵，这与统计学习中的"高斯等价"现象相关；(ii) 我们在广义线性模型中提供了高斯数据和结构化矩阵先验下贝叶斯最优学习的精确刻画，推广了此前研究的环境；(iii) 我们利用了此前关于矩阵降噪问题的工作。我们结果的广泛性允许各种应用： notably，我们在数学上严格建立了通过非严格方法在[ETB+24]中关于双线性序列回归（学习令牌序列的基准模型）以及在[MTM+24]中关于具有二次激活函数且宽度与维度成比例的神经网络中贝叶斯最优学习的预测。
引用
@article{arxiv.2503.14121,
title = {Fundamental Limits of Matrix Sensing: Exact Asymptotics, Universality, and Applications},
author = {Yizhou Xu and Antoine Maillard and Lenka Zdeborová and Florent Krzakala},
journal= {arXiv preprint arXiv:2503.14121},
year = {2025}
}