图卷积对每个特征都总是有益的吗？
机器学习
2024-11-13 v1 社会与信息网络
摘要
图神经网络（GNN）在处理结构化数据方面展现出强大能力。虽然传统GNN通常在图卷积过程中平等对待每个特征维度，但我们提出一个重要问题：图卷积操作对每个特征是否同样有益？如果不是，某些特征维度上的卷积操作可能导致有害影响，甚至比无卷积模型更差。在先前研究中，为评估图卷积对特征的影响，人们提出了基于特征同质性的指标来衡量特征与图拓扑的一致性。然而，这些指标与GNN性能的对齐度不令人满意，且未被有效用于指导GNN中的特征选择。为解决这些局限，我们引入了一种新指标——拓扑特征信息量（TFI），以区分GNN偏好特征和GNN非偏好特征，其有效性通过理论分析和实证观察得到验证。基于TFI，我们提出了一种简单而有效的图特征选择（GFS）方法，分别使用GNN和非GNN模型处理GNN偏好特征和GNN非偏好特征。与原始GNN相比，GFS在可比计算成本下显著提升了从每个特征中提取有用拓扑信息的能力。大量实验表明，将GFS应用于8个基线和最先进（SOTA）GNN架构、跨10个数据集后，83.75%的GFS增强情况显示出显著性能提升。此外，我们提出的TFI指标优于其他特征选择方法。这些结果验证了GFS和TFI的有效性。此外，我们证明GFS的改进对超参数调优具有鲁棒性，凸显了其作为增强各类GNN架构通用方法的潜力。
引用
@article{arxiv.2411.07663,
title = {Is Graph Convolution Always Beneficial For Every Feature?},
author = {Yilun Zheng and Xiang Li and Sitao Luan and Xiaojiang Peng and Lihui Chen},
journal= {arXiv preprint arXiv:2411.07663},
year = {2024}
}