具备曲率感知优化的鲁棒超bolic 学习
计算机视觉与模式识别
2026-02-10 v4
摘要
超bolic 深度学习已成为计算机视觉中日益增长的研究方向 due to 其独特的嵌入空间特性。负曲率和指数级增长的距离度量为捕获数据点之间的层次关系以及允许更细致的嵌入可分性提供了自然框架。然而，当前的 hyperbolic 学习方法仍容易过拟合、计算昂贵且容易不稳定，尤其是在尝试学习 manifold 曲率以适应任务和不同数据集时。为解决这些问题，我们的论文提出了一种对 Riemannian AdamW 的推导，以帮助提高 hyperbolic 的泛化能力。为提高稳定性，我们引入一种新颖的可微调的 hyperbolic scaling 方法以约束 hyperbolic 嵌入并减少近似误差。结合我们对 Riemannian 优化器的曲率感知学习模式，使我们能够整合曲率和非平凡化的 hyperbolic 参数学习。我们的方法在计算机视觉、EEG 分类和层次 metric 学习任务中表现出一致的性能提升，同时大大减少运行时间。
引用
@article{arxiv.2405.13979,
title = {Robust Hyperbolic Learning with Curvature-Aware Optimization},
author = {Ahmad Bdeir and Johannes Burchert and Lars Schmidt-Thieme and Niels Landwehr},
journal= {arXiv preprint arXiv:2405.13979},
year = {2026}
}