面向图神经网络的特征空间扩展
机器学习
2023-05-30 v2
摘要
图神经网络旨在为图结构数据学习表示，并展现出令人印象深刻的性能，尤其在节点分类中。近来，许多方法从优化目标与谱图理论的角度研究 GNN 的表示。然而，主导表示学习的特征空间在图神经网络中尚未被系统研究。本文提议通过分析空间与谱模型的特征空间来填补这一空白。我们将图神经网络分解为确定的特征空间与可训练权重，从而借助矩阵空间分析显式研究特征空间提供便利。特别地，我们从理论上发现由于重复聚合，特征空间趋于线性相关。受这些发现的启发，我们提出 1) 特征子空间扁平化与 2) 结构主成分以扩展特征空间。大量实验验证了我们所提更完备特征空间的有效性，其推理时间与基线相当，并展现出高效的收敛能力。
引用
@article{arxiv.2305.06142,
title = {Feature Expansion for Graph Neural Networks},
author = {Jiaqi Sun and Lin Zhang and Guangyi Chen and Kun Zhang and Peng XU and Yujiu Yang},
journal= {arXiv preprint arXiv:2305.06142},
year = {2023}
}
备注
Accepted by ICML'23