中文

双曲表示学习的数值稳定性

机器学习 2024-12-25 v4 数值分析 数值分析

摘要

鉴于球的体积相对于其半径呈指数增长,双曲空间能够以任意小的失真嵌入树结构,因此因表示层次化数据集而受到广泛关注。然而,这种指数增长特性带来了数值不稳定的代价,使得训练双曲学习模型有时会引发灾难性的 NaN 问题,在浮点运算中遇到无法表示的值。在这项工作中,我们仔细分析了双曲空间两种流行模型(即 Poincaré 球和 Lorentz 模型)的局限性。我们首先表明,在 64 位算术系统下,Poincaré 球在正确表示点方面比 Lorentz 模型具有相对更大的容量。然后,我们从优化角度理论上验证了 Lorentz 模型相对于 Poincaré 球的优越性。鉴于两种模型的数值局限性,我们确定了双曲空间的一种欧氏参数化,可缓解这些局限。我们进一步将这种欧氏参数化扩展到双曲超平面,并展示了其在提升双曲 SVM 性能方面的能力。

关键词

引用

@article{arxiv.2211.00181,
  title  = {The Numerical Stability of Hyperbolic Representation Learning},
  author = {Gal Mishne and Zhengchao Wan and Yusu Wang and Sheng Yang},
  journal= {arXiv preprint arXiv:2211.00181},
  year   = {2024}
}

备注

update funding info