中文

基于理想原型的双曲 Busemann 学习

机器学习 2021-11-25 v2

摘要

双曲空间已成为各种数据类型(从树状结构和文本到图)表示学习的流行流形选择。建立在欧氏和超球空间中基于原型的深度学习成功基础之上,最近少数工作提出了用于分类的双曲原型。此类方法能够在低维输出空间中实现有效学习,并可利用类之间的层次关系,但需要关于类标签的特权信息来定位双曲原型。在本工作中,我们提出双曲 Busemann 学习(Hyperbolic Busemann Learning)。我们方法背后的核心思想是将原型定位在 Poincaré 球的理想边界上,这不需要先验的标签知识。为了计算到理想原型的距离,我们引入了惩罚 Busemann 损失。我们提供了支持使用理想原型和所提损失的理论,证明了在一维情形下其与逻辑回归的等价性。在经验上,我们展示了我们的方法提供了对分类置信度的自然解释,同时优于最近的超球和双曲原型方法。

关键词

引用

@article{arxiv.2106.14472,
  title  = {Hyperbolic Busemann Learning with Ideal Prototypes},
  author = {Mina Ghadimi Atigh and Martin Keller-Ressel and Pascal Mettes},
  journal= {arXiv preprint arXiv:2106.14472},
  year   = {2021}
}

备注

accepted at NeurIPS 2021 (35th Conference on Neural Information Processing Systems)