利用近端分裂算法求解 OSCAR 正则化问题
计算机视觉与模式识别
2013-09-30 v2 机器学习
机器学习
摘要
OSCAR（用于回归的八边形选择与聚类算法）正则化子由 范数和成对 范数（负责其分组行为）组成，旨在鼓励在分组先验未知的场景下实现组稀疏性。OSCAR 正则化子具有非平凡的近端算子，限制了其适用性。我们将该正则化子重构为加权排序 范数，并提出了其分组近端算子 (GPO) 和近似近端算子 (APO)，从而使最先进的近端分裂算法 (PSAs) 可用于求解具有 OSCAR 正则化的逆问题。事实上，GPO 是 APO 后接额外的分组和平均操作，这在时间和存储上成本高昂，解释了为何使用 APO 的算法比使用 GPO 的算法快得多。由于 GPO 是精确的近端算子，带有 GPO 的 PSAs 的收敛性得到保证。虽然带有 APO 的 PSAs 的收敛性可能无法保证，但我们在实验中发现，当成对 范数的正则化参数设置为适当小的值时，APO 的表现与 GPO 相似。在恢复组稀疏信号（分组未知）的实验表明，带有 APO 的 PSAs 非常快速且准确。
引用
@article{arxiv.1309.6301,
title = {Solving OSCAR regularization problems by proximal splitting algorithms},
author = {Xiangrong Zeng and Mário A. T. Figueiredo},
journal= {arXiv preprint arXiv:1309.6301},
year = {2013}
}