部分训练的图卷积网络抵抗过平滑
机器学习
2024-10-18 v1
摘要
在这项工作中,我们研究了Kipf和Welling提出的一个观察结果,他们指出未训练的GCN可以生成有意义的节点嵌入。具体而言,我们研究了仅训练GCN单层而保持其余层冻结的效果。我们提出了一个基础,据此可以预测未训练层的效果及其对嵌入生成的贡献。此外,我们展示了网络宽度影响初始节点特征通过模型未训练部分后产生的节点嵌入的不相似性。另外,我们在部分训练的GCN与过平滑之间建立了联系,表明它们能够减少过平滑。我们通过实验验证了理论结果,并展示了在“冷启动”场景(即未标记节点缺乏特征信息)中使用抵抗过平滑的深度网络的优势。
引用
@article{arxiv.2410.13416,
title = {Partially Trained Graph Convolutional Networks Resist Oversmoothing},
author = {Dimitrios Kelesis and Dimitris Fotakis and Georgios Paliouras},
journal= {arXiv preprint arXiv:2410.13416},
year = {2024}
}