深度图神经网络中的特征过相关：一个新视角
机器学习
2022-06-17 v1 人工智能
摘要
近年来，图神经网络（GNNs）在推荐、药物发现等诸多实际应用中取得了显著成功。尽管成功，过平滑已被认为是限制深度 GNN 性能的关键问题之一，它表明由于堆叠的聚合器，学到的节点表示高度不可区分。在本文中，我们提出一个新视角来看待深度 GNN 的性能退化，即特征过相关。通过对该问题的实证与理论研究，我们证明了更深 GNN 中特征过相关的存在，并揭示了导致此问题的潜在原因。为降低特征相关性，我们提出一个通用框架 DeCorr，可鼓励 GNN 编码较少冗余信息。大量实验表明，DeCorr 有助于启用更深的 GNN，并且与解决过平滑问题的现有技术互补。
引用
@article{arxiv.2206.07743,
title = {Feature Overcorrelation in Deep Graph Neural Networks: A New Perspective},
author = {Wei Jin and Xiaorui Liu and Yao Ma and Charu Aggarwal and Jiliang Tang},
journal= {arXiv preprint arXiv:2206.07743},
year = {2022}
}
备注
Accepted by KDD 2022