非光滑凸复合优化的二阶原始对偶方法
最优化与控制
2020-08-31 v2 人工智能
系统与控制
适应与自组织系统
摘要
我们开发了一种二阶原始对偶方法,用于目标函数由强凸二次可微项与可能不可微的凸正则化项之和给出的优化问题。在引入辅助变量后,我们利用非光滑正则化器的邻近算子将相关的增广拉格朗日转化为一个一次但非二次连续可微的函数。该函数的鞍点对应于原始优化问题的解。我们采用 Hessian 的推广来定义该函数的二阶更新,并证明了相应微分包含的全局指数稳定性。此外,我们开发了一种全局收敛的定制算法,该算法以原始对偶增广拉格朗日作为价值函数。我们表明搜索方向可被高效计算,并证明了二次/超线性渐近收敛。我们使用 正则化模型预测控制问题以及为空间不变系统设计分布式控制器的问题来展示我们方法的优点与有效性。
引用
@article{arxiv.1709.01610,
title = {A second order primal-dual method for nonsmooth convex composite optimization},
author = {Neil K. Dhingra and Sei Zhen Khong and Mihailo R. Jovanović},
journal= {arXiv preprint arXiv:1709.01610},
year = {2020}
}
备注
32 pages, 8 figures