一种处理不等式约束及具有收敛任意时刻非中心更新的新增广拉格朗日方法
最优化与控制
2014-12-16 v1
摘要
受机器人轨迹优化问题的启发,我们研究了用于约束优化的增广拉格朗日方法。我们首先提出了一种替代的拉格朗日增广方案以处理不等式情形(不基于松弛变量),以及相应的对偶参数“中心”更新。我们证明了该更新的某些性质:大致而言,在线性规划 (LPs) 情形下且当“约束活性”在迭代间保持不变时,KKT 条件仅需一次迭代即可满足。这为该方法在实际中的高效性提供了重要见解。随后,我们提出了主要贡献,即对偶参数的一致任意时刻(非中心)更新(即在当前未处于拉格朗日函数极值点时更新对偶参数)。类似于原始 - 对偶牛顿法,这导出了一种并行更新原始解和对偶解的算法,无需区分用于调整对偶参数的外循环和用于最小化拉格朗日函数的内循环。我们再次证明了该任意时刻更新的某些性质:大致而言,在线性规划情形下且若约束活性不发生变化,对偶解在一次迭代后收敛。这再次揭示了该方法的潜在缺陷:若约束活性发生变化,方法可能会失稳。我们提出了简单的平滑、步长自适应和正则化机制以抵消此效应并保证单调收敛。最后,我们在随机线性规划问题及标准机器人轨迹优化问题上评估了所提出的方法,证实了我们的动机和直觉,即若问题结构意味着约束活性具有适度稳定性,则该方法表现良好。
引用
@article{arxiv.1412.4329,
title = {A Novel Augmented Lagrangian Approach for Inequalities and Convergent Any-Time Non-Central Updates},
author = {Marc Toussaint},
journal= {arXiv preprint arXiv:1412.4329},
year = {2014}
}