基于块式最小化-优界算法的 Huber 准则：稀疏学习与应用
机器学习
2020-08-26 v1 机器学习
统计方法学
摘要
Huber 准则可用于线性模型中回归参数与尺度参数的稳健联合估计。Huber（1981）提出该准则的动机源于联合极大似然目标函数的非凸性，以及相应尺度 ML 估计的不稳健性（影响函数无界）。本文阐明了 Huber 提出的原始算法如何纳入块式最小化-优界（minimization-majorization）框架。此外，我们针对位置与尺度提出了新的数据自适应步长，进一步改善了收敛性。接着我们说明了如何借助迭代硬阈值方法，将 Huber 准则用于欠定线性模型的稀疏学习。我们通过图像去噪应用与模拟研究展示了这些算法的实用性。
引用
@article{arxiv.2008.10982,
title = {Block-wise Minimization-Majorization algorithm for Huber's criterion: sparse learning and applications},
author = {Esa Ollila and Ammar Mian},
journal= {arXiv preprint arXiv:2008.10982},
year = {2020}
}
备注
To appear in International Workshop on Machine Learning for Signal Processing (MLSP), 2020