基于$\gamma$-散度的鲁棒稀疏回归

在高维数据中，许多稀疏回归方法已被提出。然而，它们可能对异常值不具备鲁棒性。近来，密度幂权重已被用于鲁棒参数估计，并且相应的散度已被讨论。此类散度之一是$\gamma$-散度，且已知使用$\gamma$-散度的鲁棒估计器具有强鲁棒性。本文中，我们考虑基于$\gamma$-散度的鲁棒稀疏回归。我们将$\gamma$-散度推广到回归问题，并表明即使在异常值异构的情况下，其在重度污染下也具有强鲁棒性。损失函数由带稀疏正则化的$\gamma$-散度的经验估计构造，参数估计定义为该损失函数的最小化器。为获得鲁棒且稀疏的估计，我们提出一种具有损失函数单调下降性质的高效更新算法。特别地，我们详细讨论了带$L_1$正则化的线性回归问题。在数值实验与真实数据分析中，我们看到所提方法优于以往的鲁棒稀疏方法。