稀疏恢复中良好的局部极小值是否宽泛？
计算机视觉与模式识别
2018-06-22 v1 最优化与控制
摘要
压缩感知的思想是利用合适的（过完备）字典中的表示，使得只要信号在相应字典中容许稀疏表示，就能以远超奈奎斯特速率恢复信号。后者引出了稀疏恢复问题，即在给定生成系统中寻找给定数据的最佳稀疏线性逼近。本文中，我们分析作为求解稀疏恢复问题最流行的贪婪方法之一的迭代硬阈值（IHT）算法，并证明通过对 IHT 算法系统性地扰动——向中间迭代添加噪声——可得到改进结果。通过将问题完全重新表述为参数化深度学习型优化问题，可获进一步改进。通过 dropout 引入扰动，我们证明显著优于经典 IHT 算法，取得了低 至 倍的平均目标误差。
引用
@article{arxiv.1806.08296,
title = {Are good local minima wide in sparse recovery?},
author = {Michael Moeller and Otmar Loffeld and Juergen Gall and Felix Krahmer},
journal= {arXiv preprint arXiv:1806.08296},
year = {2018}
}