线性参与的 Moreau 子空间增强(LiMES)模型:去偏稀疏建模与稳定离群鲁棒回归
信号处理
2023-04-04 v2
摘要
我们提出一个基于线性参与的 Moreau-子空间-增强(LiMES)模型的高效数学框架。考虑了两个具体应用:稀疏建模与鲁棒回归。用于稀疏建模的流行极小极大凹(MC)惩罚从 范数中减去其 Moreau 包络,诱导出近乎无偏的估计,从而带来显著的性能提升。为将其推广至欠定线性系统,我们利用到输入子空间上的投影提出投影极小极大凹惩罚,其中 Moreau 增强效应被限制在子空间内以保留整体凸性。我们还提出稳定离群鲁棒回归的新概念,明确区分噪声与离群值。LiMES 模型涵盖上述两个具体例子以及另两个应用:稳定主成分追踪与鲁棒分类。模型中涉及的 LiMES 函数是“加性不可分”的弱凸函数,但由返回“可分”凸函数最小值的 Moreau 包络定义。这种可分与不可分的混合性质使得 LiMES 模型可应用于欠定情形并具备高效的算法实现。两个线性/仿射算子在模型中起关键作用:一个对应上述投影,另一个处理鲁棒回归/分类。研究了目标函数光滑部分凸性的充要条件。数值例子展示了 LiMES 在稀疏建模与鲁棒回归应用中的有效性。
引用
@article{arxiv.2201.03235,
title = {Linearly-involved Moreau-Enhanced-over-Subspace Model: Debiased Sparse Modeling and Stable Outlier-Robust Regression},
author = {Masahiro Yukawa and Hiroyuki Kaneko and Kyohei Suzuki and Isao Yamada},
journal= {arXiv preprint arXiv:2201.03235},
year = {2023}
}
备注
17 pages, 10 fugures, journal paper