利用高斯回归元提升高维非线性模型

我们研究从高维数据 $\mathbf{y}_i=f(\mathbf{a}_i^T\mathbf{x}_0)$ 中恢复结构化信号 $\mathbf{x}_0$ 的问题，其中 $f$ 为某非线性（且可能未知）链接函数，回归元 $\mathbf{a}_i$ 为独立同分布高斯变量。Brillinger（1982）表明普通最小二乘可估计出成比例于常数 $\mu_\ell$ 的 $\mathbf{x}_0$，该常数依赖于 $f$。近来，Plan & Vershynin（2015）将这一结果推广到高维设定，导出了广义 Lasso 的尖锐误差界。不幸的是，当 $\mu_\ell=0$ 时，最小二乘与 Lasso 均无法恢复 $\mathbf{x}_0$，例如这包括所有偶链接函数。我们通过提出并分析一种替代的凸恢复方法解决了该问题。简而言之，我们的方法在高维提升空间中将这些链接函数视为线性的。有趣的是，我们的误差分析在几个简单摘要参数中捕获了非线性与问题几何形状的影响。