元聚合器：面向1比特图神经网络的学习聚合
计算机视觉与模式识别
2021-09-28 v1 机器学习
摘要
本文研究了一种新颖的元聚合方案，旨在二值化图神经网络（GNN）。我们首先开发了一个基础的1比特GNN框架，该框架将GNN参数和图特征均进行二值化。尽管架构轻量，但我们观察到该基础框架在区分图拓扑方面判别能力不足，导致性能急剧下降。这一发现促使我们设计元聚合器来提升基础二值化GNN的表达能力，其聚合方案可根据二值化特征以可学习的方式自适应改变。为此，我们提出了两种专用形式的元邻域聚合器：一种称为贪婪Gumbel邻域聚合器（GNA）的排他性元聚合器，以及一种称为自适应混合邻域聚合器（ANA）的扩散性元聚合器。GNA学习从候选池中排他性地选择一个最优聚合器，而ANA则学习一种混合聚合行为，以同时保留多个独立聚合器的优点。此外，所提出的元聚合器可以轻松作为通用插件模块集成到现有的全精度GNN中。跨多个领域的实验表明，所提出的方法取得了优于现有技术的成果。
引用
@article{arxiv.2109.12872,
title = {Meta-Aggregator: Learning to Aggregate for 1-bit Graph Neural Networks},
author = {Yongcheng Jing and Yiding Yang and Xinchao Wang and Mingli Song and Dacheng Tao},
journal= {arXiv preprint arXiv:2109.12872},
year = {2021}
}
备注
Accepted to ICCV 2021