Stiefel流形上带非光滑正则化项去中心化优化的平滑梯度跟踪
最优化与控制
2024-01-09 v1
摘要
近年来，Stiefel流形上的去中心化优化因其在众多领域的广泛应用而受到极大关注。现有方法依赖梯度更新变量，不适用于带非光滑正则化项（如稀疏PCA）的目标函数。本文中，据我们所知，我们提出了首个用于Stiefel流形上非光滑优化的去中心化算法。我们的算法通过Moreau包络逼近目标函数的非光滑部分，从而可部署现有的光滑优化算法。我们建立了迭代复杂度为 的收敛保证。在去中心化设置下进行的数值实验证明了我们算法的有效性与高效性。
引用
@article{arxiv.2303.15882,
title = {Smoothing Gradient Tracking for Decentralized Optimization over the Stiefel Manifold with Non-smooth Regularizers},
author = {Lei Wang and Xin Liu},
journal= {arXiv preprint arXiv:2303.15882},
year = {2024}
}