线性规划中原对偶混合梯度法的几何性质与精细化收敛速率
最优化与控制
2023-12-27 v2
摘要
我们研究用于求解线性规划（LP）的原对偶混合梯度法（PDHG）的收敛行为。PDHG是一种新型通用一阶LP求解器PDLP的基础算法，其旨在利用现代计算架构来扩展LP的求解规模。尽管PDHG在数值上取得了成功，但针对LP的PDHG理论理解仍十分有限；以往的复杂度结果依赖于KKT系统的全局Hoffman常数，而该常数已知非常宽松且缺乏信息量。在本工作中，我们旨在建立对LP下PDHG收敛行为的基本理解，并推导出不依赖全局Hoffman常数的精细化复杂度速率。我们表明LP下PDHG有两个主要阶段：在第一阶段，PDHG识别活跃变量，其长度由某一度量LP实例非退化部分接近退化程度的量所驱动；在第二阶段，PDHG有效地求解一个齐次线性不等式系统，其复杂度由该系统性质良好的局部锐度常数所驱动。该发现与非光滑优化中的部分光滑性概念密切相关，且这是首个在无非退化假设下有限时间识别的复杂度结果。我们结果的一个有趣推论是：退化本身并不会减慢LP下PDHG的收敛，但近退化会。
引用
@article{arxiv.2307.03664,
title = {On the Geometry and Refined Rate of Primal-Dual Hybrid Gradient for Linear Programming},
author = {Haihao Lu and Jinwen Yang},
journal= {arXiv preprint arXiv:2307.03664},
year = {2023}
}