一种求解最优传输问题的加速随机算法

本文提出一种带方差缩减的原始-对偶加速随机梯度下降算法 (PDASGD) 来求解线性约束优化问题。PDASGD 可用于求解离散最优传输 (OT) 问题，并享有已知最佳的计算复杂度——$\widetilde{\mathcal{O}}(n^2/\epsilon)$，其中 $n$ 是原子数量，$\epsilon>0$ 是精度。文献中已提出一些原始-对偶加速一阶算法，例如 APDAGD，其求解 OT 问题的复杂度为 $\widetilde{\mathcal{O}}(n^{2.5}/\epsilon)$。为理解为何我们提出的算法能将速率提高 $\widetilde{\mathcal{O}}(\sqrt{n})$ 倍，我们讨论了在何种条件下我们的随机算法求解线性约束优化问题具有更低阶的计算复杂度。结果表明 OT 问题满足上述条件。数值实验证明了所提出的 PDASGD 算法在求解 OT 问题时具有优越的实际性能。