非线性测量下的 LASSO 等价于线性测量下的 LASSO
统计理论
2015-06-09 v1 信息论
math.IT
统计理论
摘要
考虑从 个测量值 中估计未知但结构化的信号 ,其中 是已知测量矩阵 的行, 是一个(可能未知的)非线性和随机链接函数。此类测量函数可能出现在测量设备具有非线性和不确定性的应用中,也可能由设计产生,例如 对应于有噪 1-bit 量化测量。受 Brillinger 的经典工作以及 Plan 和 Vershynin 近期工作的启发,我们通过求解广义 LASSO (Generalized-LASSO) 来估计 ,其中使用某个正则化参数 和某个(通常非光滑的)凸结构诱导正则化函数。尽管该方法看似朴素地忽略了非线性函数 ,但 Brillinger(在无约束情形下)与 Plan 和 Vershynin 均已证明,当 的条目为独立同分布标准高斯时,这是 的一个良好估计,直至一个仅依赖于 的比例常数 。本工作中,我们通过获得正则化 LASSO 的平方误差的显式表达式,大幅加强了这些结果,这些表达式在 和 趋于大时渐近精确。一个主要结果是,具有非线性测量的广义 LASSO 的估计性能渐近等同于测量为线性的情形 ,其中 且 , 为标准高斯变量。据我们所知,所推导的关于估计性能的表达式是此背景下首个已知的精确结果。我们结果的一个有趣推论是,使 LASSO 估计误差最小的最优测量量化器是著名的 Lloyd-Max 量化器。
引用
@article{arxiv.1506.02181,
title = {The LASSO with Non-linear Measurements is Equivalent to One With Linear Measurements},
author = {Chrtistos Thrampoulidis and Ehsan Abbasi and Babak Hassibi},
journal= {arXiv preprint arXiv:1506.02181},
year = {2015}
}