含噪标准与广义相位恢复问题中经验 $\ell_2$ 风险最小化的误差界
机器学习
2022-06-29 v2 机器学习
摘要
本文研究了在含噪(标准)相位恢复(NPR,给定为 )或含噪广义相位恢复(NGPR,表述为 )中经验 风险最小化(ERM)的估计性能,其中 为期望信号, 为样本量, 为噪声向量。我们在不同噪声模式下建立了新的误差界,且证明对 和 均成立。在任意噪声向量 下的 NPR 中,我们推导出新的误差界 ,其在许多情形下比当前已知的 更紧。在 NGPR 中,我们对任意 给出 。在两问题中,任意噪声的界立即给出亚高斯或亚指数随机噪声下的 ,并去除或弱化了某些常规但非本质的假设(如独立或零均值条件)。此外,我们首次尝试在假定具有有界 阶矩的重尾随机噪声下进行 ERM。为在偏差与方差间取得权衡,我们对响应进行截断并提出相应的鲁棒 ERM 估计量,证明其在 NPR 与 NGPR 中均具有保证 。所有误差界可直接推广至更一般的秩- 矩阵恢复问题,这些结果表明 NGPR 中的满秩框架 比 NPR 中的秩-1 框架 对偏置噪声更具鲁棒性。我们给出了大量实验结果以阐明理论发现。
引用
@article{arxiv.2205.13827,
title = {Error Bound of Empirical $\ell_2$ Risk Minimization for Noisy Standard and Generalized Phase Retrieval Problems},
author = {Junren Chen and Michael K. Ng},
journal= {arXiv preprint arXiv:2205.13827},
year = {2022}
}
备注
44 pages, 6 figures