从树到连续嵌入再返回：双曲层次聚类
数据结构与算法
2020-10-02 v1 机器学习
机器学习
摘要
基于相似度的层次聚类（HC）是一种经典的无监督机器学习算法，传统上通过 Average-Linkage 等启发式算法求解。近期，Dasgupta 通过引入衡量给定树质量的全局代价函数，将 HC 重构为离散优化问题。本工作中，我们提供了 Dasgupta 离散优化问题的首个具有可证明质量保证的连续松弛。我们的方法 HypHC 的核心思想是建立从离散树到连续表示（通过其叶节点的双曲嵌入）再返回（通过将叶嵌入映射为树状图的译码算法）的直接对应，从而得以用连续优化搜索离散二叉树空间。基于树与双曲空间之间的类比，我们推导了最低公共祖先概念的连续类比，进而得到 Dasgupta 离散目标的连续松弛。我们可证明，译码后，我们连续松弛的全局极小化子给出一棵离散树，对 Dasgupta 最优树具有 (1 + epsilon) 因子近似，其中 epsilon 可任意小并控制优化难度。我们在多种 HC 基准上实验评估 HypHC，发现即便用梯度下降求得的近似解，其聚类质量也优于凝聚式启发算法或其他基于梯度的算法。最后，我们在下游分类任务中通过端到端训练凸显 HypHC 的灵活性。
引用
@article{arxiv.2010.00402,
title = {From Trees to Continuous Embeddings and Back: Hyperbolic Hierarchical Clustering},
author = {Ines Chami and Albert Gu and Vaggos Chatziafratis and Christopher Ré},
journal= {arXiv preprint arXiv:2010.00402},
year = {2020}
}