针对非凸线性约束复合问题的自适应 Proximal ADMM
机器学习
2025-06-11 v1 人工智能
摘要
本文发展了一种自适应 proximal 交替方向乘子法(ADMM)用于求解线性约束的复合优化问题，假设目标函数的光滑部分为弱凸，而非光滑部分为凸且块分离。该方法对所有问题参数自适应，包括光滑性和弱凸性常数，允许其每个块 proximal 子问题不完全求解。我们自适应 proximal ADMM 的每个迭代包含两个步骤：依次求解每个块 proximal 子问题；以及自适应测试以决定是否执行完整的拉格朗日乘子和/或惩罚参数更新。无需对约束矩阵进行任何秩假设，自适应 proximal ADMM 在迭代次数上获得受状态最佳复杂度的近似一阶静止点。三项 proof-of-concept 数值实验表明，自适应 proximal ADMM 具有显著的计算优势。
关键词
引用
@article{arxiv.2407.09926,
title = {Metric Learning for Clifford Group Equivariant Neural Networks},
author = {Riccardo Ali and Paulina Kulytė and Haitz Sáez de Ocáriz Borde and Pietro Liò},
journal= {arXiv preprint arXiv:2407.09926},
year = {2025}
}
备注
Workshop on Geometry-grounded Representation Learning and Generative Modeling (GRaM) at the ICML 2024