强凸二次问题的无摩擦哈密顿下降法与坐标哈密顿下降法
最优化与控制
2026-02-26 v4
摘要
我们提出了一种名为无摩擦哈密顿下降法 (Frictionless Hamiltonian Descent) 的优化算法，它是采样中经典哈密顿蒙特卡洛 (Hamiltonian Monte Carlo) 的直接对应物。我们分析了针对强凸二次函数的无摩擦哈密顿下降法，并表明该方法具有与重球流 (Heavy Ball flow) 相当的非平凡加速率。我们还提出了无摩擦坐标哈密顿下降法及其可并行变体，事实证明该方法封装了用于求解线性方程组的经典高斯 - 赛德尔法 (Gauss-Seidel method)、逐次超松弛法 (Successive Over-relaxation)、雅可比法 (Jacobi method) 等。该结果不仅为这些现有算法提供了新视角，还导出了更广泛的保证收敛的更新方案类。
引用
@article{arxiv.2402.13988,
title = {Frictionless Hamiltonian Descent and Coordinate Hamiltonian Descent for Strongly Convex Quadratic Problems},
author = {Jun-Kun Wang},
journal= {arXiv preprint arXiv:2402.13988},
year = {2026}
}