AGNN：缓解过平滑的交替图正则化神经网络
机器学习
2023-04-17 v1 人工智能
摘要
图卷积网络（GCN）凭借探索图结构数据的强大能力，近年来取得显著成功。然而，大多数现有基于GCN的模型受困于臭名昭著的过平滑问题，因此广泛采用浅层网络。这对于复杂图数据集可能有问题，因为更深的GCN应有利于在远端邻居间传播信息。近期工作致力于解决过平滑问题，包括建立残差连接结构或融合多层模型的预测。由于深层嵌入不可区分，在进行各层输出组合前生成更可靠的预测是合理的。有鉴于此，我们提出由图卷积层（GCL）与图嵌入层（GEL）组成的交替图正则化神经网络（AGNN）。GEL源自含拉普拉斯嵌入项的图正则化优化，可通过从低阶特征空间到高阶空间的周期性投影缓解过平滑问题。借助各层更具区分性的特征，采用改进的Adaboost策略聚合每层输出，以挖掘多跳邻居的集成嵌入。所提模型通过大量实验评估，包括与若干多层或多阶图神经网络进行性能比较，结果表明AGNN相较最先进模型具有优越的性能提升。
引用
@article{arxiv.2304.07014,
title = {AGNN: Alternating Graph-Regularized Neural Networks to Alleviate Over-Smoothing},
author = {Zhaoliang Chen and Zhihao Wu and Zhenghong Lin and Shiping Wang and Claudia Plant and Wenzhong Guo},
journal= {arXiv preprint arXiv:2304.07014},
year = {2023}
}