中文

面向非光滑优化的自适应黎曼 ADMM:无需光滑化的最优复杂度

最优化与控制 2025-10-22 v1

摘要

我们研究在嵌入欧几里得空间的紧致黎曼子流形上,最小化光滑函数与非光滑凸正则化项之和的问题。通过引入辅助分裂变量,我们提出了一种自适应黎曼交替乘子法(ARADMM),该方法首次在不要求对非光滑项进行光滑化的情况下实现了收敛。我们的方法每次迭代仅涉及一次黎曼梯度计算和一次近端更新。通过对步长和惩罚参数进行精细且自适应的协调,我们证明了寻找 ϵ\epsilon-近似 KKT 点的最优迭代复杂度为 O(ϵ3)\mathcal{O}(\epsilon^{-3}) 阶,这与现有的基于光滑化技术的黎曼 ADMM 方法的复杂度相匹配。在稀疏 PCA 和鲁棒子空间恢复上的大量数值实验表明,我们的 ARADMM 在收敛速度和求解质量上均始终优于最先进的黎曼 ADMM 变体。

关键词

引用

@article{arxiv.2510.18617,
  title  = {Adaptive Riemannian ADMM for Nonsmooth Optimization: Optimal Complexity without Smoothing},
  author = {Kangkang Deng and Jiachen Jin and Jiang Hu and Hongxia Wang},
  journal= {arXiv preprint arXiv:2510.18617},
  year   = {2025}
}

备注

NeurIPS2025