双曲优化
机器学习
2025-10-01 v1 计算机视觉与模式识别
摘要
本工作探讨双曲流形上的优化方法。基于黎曼优化原理，我们将双曲随机梯度下降（Riemannian SGD 的一种特化）扩展为双曲 Adam 优化器。尽管这些方法与 Poincaré 球上的学习尤为相关，但它们在欧氏及其他非欧氏环境中也可能带来益处，因为所选优化方法鼓励学习 Poincaré 嵌入。这种表示反过来在训练早期参数远离最优值时加速了收敛。作为案例研究，我们使用双曲优化方法以及 Langevin 动力学的双曲时间离散化训练扩散模型，并表明它们在某些数据集上实现了更快的收敛，且未牺牲生成质量。
引用
@article{arxiv.2509.25206,
title = {Hyperbolic Optimization},
author = {Yanke Wang and Kyriakos Flouris},
journal= {arXiv preprint arXiv:2509.25206},
year = {2025}
}
备注
Preprint