单跳节点分类的 Set Twister
机器学习
2021-12-21 v1
摘要
节点分类是关系学习中的核心任务,当前最优方法依赖于两个关键原则:(i) 预测对节点邻居的排序具有置换不变性;(ii) 预测是节点 跳邻域拓扑与属性的函数,。图神经网络与集体推断方法(如置信传播)均依赖来自至多 跳之外的信息。本工作中,我们研究使用更强大的置换不变函数是否有时可避免分类器收集超过 跳信息的需要。为此,我们引入一种新架构 Set Twister,它推广了 DeepSets (Zaheer et al., 2017)——一种简单且被广泛使用的置换不变表示。Set Twister 在理论上提升了 DeepSets 的表达能力,使其能捕捉高阶依赖,同时保持其简洁性与低计算成本。实证上,我们在多个任务中观察到 Set Twister 相对于 DeepSets 以及多种图神经网络和集体推断方案的准确率提升,同时展现了其实现简洁性与计算高效性。
引用
@article{arxiv.2112.09752,
title = {Set Twister for Single-hop Node Classification},
author = {Yangze Zhou and Vinayak Rao and Bruno Ribeiro},
journal= {arXiv preprint arXiv:2112.09752},
year = {2021}
}
备注
Accepted for presentation at the 2nd GCLR workshop in conjunction with AAAI 2022