双异方差噪声下的矩阵去噪：基本极限与最优谱方法
统计理论
2024-10-29 v2 信息论
机器学习
math.IT
概率论
机器学习
统计理论
摘要
我们研究矩阵去噪问题，即估计被同时具有列和行相关性的噪声污染的秩1信号的奇异向量。现有工作要么无法精确确定渐近估计误差，要么即使能够确定，所得到的方法（例如基于白化或奇异值收缩）仍然远非最优。此外，大多数文献关注的是当噪声仅具有行相关性（单侧异方差）时估计信号左奇异向量的特殊情况。相比之下，我们的工作建立了双异方差噪声下矩阵去噪的信息论和算法极限。我们刻画了精确的渐近最小均方误差，并设计了一种具有严格最优性保证的新型谱估计器：在技术条件下，只要信息论上可能，它就能实现与信号的正相关，并且对于单侧异方差，它还能达到贝叶斯最优误差。数值实验证明了我们理论原则性方法相对于现有技术的显著优势。证明过程借鉴了统计物理和近似消息传递，与标准随机矩阵理论技术截然不同。
引用
@article{arxiv.2405.13912,
title = {Matrix Denoising with Doubly Heteroscedastic Noise: Fundamental Limits and Optimal Spectral Methods},
author = {Yihan Zhang and Marco Mondelli},
journal= {arXiv preprint arXiv:2405.13912},
year = {2024}
}