PDE框架下的加速优化:微分同胚流形上的表述
最优化与控制
2018-05-25 v2 计算机视觉与模式识别
数值分析
摘要
我们考虑在无限维微分同胚流形上优化代价泛函的问题。我们提出一类新的优化方法,通过将Nesterov加速优化推广到微分同胚流形,可适用于微分同胚空间上任意优化问题设定。尽管我们的框架对无限维流形是通用的,但受计算机视觉中光流问题的启发,我们具体处理微分同胚的情形。这是基于Wibisono、Wilson和Jordan近期对一类有限维加速优化方法的变分方法实现的,我们将该方法推广到无限维流形。我们推导了加速梯度下降的惊人简单的连续演化方程,其为偏微分方程,并将其与流体力学中的简单力学原理相联系。我们的方法与最优质量传输问题有天然联系。这是因为可以将我们的方法视为具有质量(用质量密度表示)的无限多个粒子在能量景观中运动的演化。质量随优化变量演化,并赋予粒子动力学。这与有限维情形不同,在有限维中仅有一个粒子运动,因此动力学不依赖于质量。我们推导了理论,计算了加速优化的偏微分方程,并展示了这些新加速优化方案的行为。
引用
@article{arxiv.1804.02307,
title = {Accelerated Optimization in the PDE Framework: Formulations for the Manifold of Diffeomorphisms},
author = {Ganesh Sundaramoorthi and Anthony Yezzi},
journal= {arXiv preprint arXiv:1804.02307},
year = {2018}
}