将ADMM转化为近端梯度以实现高效稀疏估计
最优化与控制
2022-03-29 v3 机器学习
摘要
在稀疏估计中，例如融合 lasso 和凸聚类，我们采用近端梯度法或交替方向乘子法（ADMM）来求解问题。前者包含矩阵除法较为耗时，而后者已发展出如 FISTA（快速迭代收缩阈值算法）等高效方法。本文提出一种在目标函数导数满足 Lipschitz 连续的假设下，将 ADMM 解转化为近端梯度法的一般方法。然后，我们将其应用于稀疏估计问题，如稀疏凸聚类和趋势滤波，并通过数值实验表明我们在效率方面取得了显著改进。
引用
@article{arxiv.2104.10911,
title = {Converting ADMM to a Proximal Gradient for Efficient Sparse Estimation},
author = {Ryosuke Shimmura and Joe Suzuki},
journal= {arXiv preprint arXiv:2104.10911},
year = {2022}
}
备注
14 pages, 8 figures