基于 Hessian 的扰动 Wasserstein 梯度流用于逃离鞍点
最优化与控制
2025-09-23 v1 机器学习
摘要
Wasserstein 梯度流（WGF）是执行概率测度优化的常用方法。虽然 WGF 可保证收敛到一阶 stationary 点，但对于非凸目标，收敛解未必满足二阶最优性条件，即可能收敛到鞍点。本文提出一种新的概率测度优化算法，扰动 Wasserstein 梯度流（PWGF），实现一般非凸目标的二阶最优性。PWGF 通过高斯过程方案在鞍点附近注入噪声扰动来增强 WGF。通过沿由高斯过程生成的随机向量场推动测度，PWGF 通过扰动解向 Wasserstein Hessian 最小特征值方向来有效逃离鞍点。我们理论上推导了 PWGF 实现二阶 stationary 点的计算复杂度。此外，我们证明了 PWGF 在严格良好目标下以多项式时间收敛到全局最优。
引用
@article{arxiv.2509.16974,
title = {Hessian-guided Perturbed Wasserstein Gradient Flows for Escaping Saddle Points},
author = {Naoya Yamamoto and Juno Kim and Taiji Suzuki},
journal= {arXiv preprint arXiv:2509.16974},
year = {2025}
}
备注
45 pages, 2 figures. Accepted for publication at NeurIPS 2025