NetSMF：大规模网络嵌入的稀疏矩阵分解方法
社会与信息网络
2019-06-27 v1 机器学习
机器学习
摘要
我们研究大规模网络嵌入问题，其目标是为网络挖掘应用学习潜在表示。先前研究表明：1）流行的网络嵌入基准方法，如DeepWalk，本质上是在隐式分解一个具有闭合形式的矩阵；2）对该矩阵进行显式分解能生成比现有方法更强大的嵌入。然而，直接构建并分解这个稠密矩阵在时间和空间上都代价过高，使其无法扩展到大型网络。本文提出大规模网络嵌入的稀疏矩阵分解算法（NetSMF）。NetSMF利用谱稀疏化理论高效地稀疏化上述稠密矩阵，从而显著提高嵌入学习的效率。稀疏化后的矩阵在谱意义上接近原始稠密矩阵，且具有理论上界定的近似误差，这有助于保持所学嵌入的表示能力。我们在不同规模和类型的网络上进行了实验。结果表明，在流行的基准方法和基于分解的方法中，NetSMF是唯一同时实现高效率和高效果的方法。我们展示，NetSMF仅需24小时就能为一个拥有数千万节点的大规模学术合作网络生成有效的嵌入，而DeepWalk则需要数月时间，且稠密矩阵分解方案在计算上不可行。NetSMF的源代码已公开（https://github.com/xptree/NetSMF）。
引用
@article{arxiv.1906.11156,
title = {NetSMF: Large-Scale Network Embedding as Sparse Matrix Factorization},
author = {Jiezhong Qiu and Yuxiao Dong and Hao Ma and Jian Li and Chi Wang and Kuansan Wang and Jie Tang},
journal= {arXiv preprint arXiv:1906.11156},
year = {2019}
}
备注
11 pages, in Proceedings of the Web Conference 2019 (WWW 19)