基于最大仿射函数之差的高维局部近似最优分段线性回归

本文通过自适应块梯度下降（ABGD）算法，提出了分段线性回归的一种参数化解决方案。该方法的核心是将分段线性函数参数化为最大仿射函数之差（DoMA）。在次高斯协变量和噪声分布下，给出了 ABGD 的非渐近局部收敛分析。为了初始化 ABGD，我们改编了一种先前为更简单的最大仿射函数环境所开发的算法。在适当初始化的情况下，给定 $\tilde{\mathcal{O}}(d\max(\sigma_z/\epsilon,1)^2)$ 次观测，ABGD 线性收敛至 $\epsilon$ 精度估计，其中 $\sigma_z^2$ 表示噪声方差。这意味着在无噪声情况下，给定 $\tilde{\mathcal{O}}(d)$ 个样本即可精确恢复。此外，证明了该速率在对数因子意义下是极小极大最优的。合成数值实验结果证实了 ABGD 的理论保证。我们还观察到，在真实世界数据集上，该方法与现有最先进方法相比具有竞争力的性能。