中文

Cleora:一种简单、强大且可扩展的图嵌入方案

机器学习 2021-02-05 v1 人工智能

摘要

图嵌入领域目前由对比学习方法主导,这类方法需要明确目标函数的构建以及正负样本的采样,这带来了概念与计算上的开销。多维尺度变换(MDS)或拉普拉斯特征映射等简单经典的无监督方法跳过了繁琐的目标优化,直接利用数据几何结构。遗憾的是,它们对矩阵特征分解等极高代价操作的依赖,使其无法扩展到当今数字世界中常见的大规模图。本文提出Cleora:一种兼具无监督与高度可扩展优势的算法,集两者之长。我们表明,无需流行的逐步学习框架与样本采样,也能生成高质量嵌入。我们算法的直观学习目标是节点应与其邻居相似,而无需显式地将不相连节点推远。该目标通过迭代加权平均邻居嵌入、随后跨维度归一化来实现。得益于平均操作,算法在嵌入空间中快速推进,通常仅数次迭代即达最优嵌入。Cleora运行速度快于其他SOTA CPU算法,且在链接预测与节点分类等下游任务上生成的嵌入质量具竞争力。我们表明Cleora学习到的数据抽象类似于对比方法,但计算成本大幅更低。我们以MIT许可开源Cleora,允许商业使用,地址为 https://github.com/Synerise/cleora。

关键词

引用

@article{arxiv.2102.02302,
  title  = {Cleora: A Simple, Strong and Scalable Graph Embedding Scheme},
  author = {Barbara Rychalska and Piotr Bąbel and Konrad Gołuchowski and Andrzej Michałowski and Jacek Dąbrowski},
  journal= {arXiv preprint arXiv:2102.02302},
  year   = {2021}
}