中文

简单集合交集上的凸优化:通过精确惩罚方法获得改进的收敛率保证

最优化与控制 2017-10-19 v1

摘要

我们考虑在有限个易于投影的简单集合的交集上最小化凸函数的问题。这是一个出现在机器学习等各个领域的重要问题。主要困难在于寻找一个点在多个集合交集上的投影。现有方法产生一个不可行点,对于非光滑问题,其迭代复杂度为 O(1/ε2)O(1/\varepsilon^2),且对不可行性没有保证。通过精确惩罚函数重新表述问题,我们推导出一阶算法,它们不仅保证到交集的距离很小,还将光滑函数的复杂度提高到 O(1/ε)O(1/\varepsilon)O(1/ε)O(1/\sqrt{\varepsilon})。对于复合和光滑问题,这是通过鞍点重新表述实现的,其中原始-对偶算法所需的近端算子可以闭式计算。我们在图传导问题和图匹配问题上展示了我们方法的优势。

关键词

引用

@article{arxiv.1710.06465,
  title  = {Convex optimization over intersection of simple sets: improved convergence rate guarantees via an exact penalty approach},
  author = {Achintya Kundu and Francis Bach and Chiranjib Bhattacharyya},
  journal= {arXiv preprint arXiv:1710.06465},
  year   = {2017}
}