求解几乎所有随机二次方程组
最优化与控制
2017-05-31 v1 信息论
math.IT
机器学习
摘要
本文研究寻找一个 n 维解 x,以满足形式为 y_i = |⟨a_i, x⟩|^2(1 ≤ i ≤ m)的二次方程组,该问题亦称为相位恢复,且通常是 NP 难的。我们提出了一种新颖的过程,用于最小化基于振幅的最小二乘经验损失,该过程始于可通过少量幂迭代或 Lanczos 迭代获得的加权最大相关初始化,随后基于一系列迭代重加权(广义)梯度迭代进行逐步优化。这两个阶段(初始化和梯度流)因引入了一种新的(重)加权正则化技术而区别于先前的工作。整体算法概念简单、数值可扩展且易于实现。对于某些随机测量模型,该新颖过程被证明能够在与读取数据 {(a_i; y_i)}_{1≤i≤m} 成比例的时间内找到真实解 x。这一结论以高概率成立,且无需对待恢复信号 x 附加额外假设,前提是方程数量 m 是信号向量中未知数数量 n 的某个常数 c > 0 倍,即 m > cn。经验上,本文的贡献成果为:i) 在高维(例如 n ≥ 2,000)情况下,仅给定信息论极限数量的无噪声方程(即实值高斯情形下 m = 2n - 1),即可实现(几乎)100% 的完美信号恢复;以及 ii) 在存在有界支撑加性噪声时,达到(近乎)最优的统计精度。最后,使用合成数据和真实图像进行的大量数值测试证实,与现有最先进方法相比,我们的新颖过程在信号恢复性能和计算效率上均有显著提升。
引用
@article{arxiv.1705.10407,
title = {Solving Almost all Systems of Random Quadratic Equations},
author = {Gang Wang and Georgios B. Giannakis and Yousef Saad and Jie Chen},
journal= {arXiv preprint arXiv:1705.10407},
year = {2017}
}
备注
27 pages, 8 figures