图神经网络的可迁移性性质
机器学习
2023-08-09 v4 信号处理
摘要
图神经网络（GNN）由包含图卷积和逐点非线性的层组成。由于其不变性和稳定性性质，GNN 已被证明能成功地从中等规模图支持的数据中学习表示。然而，它们在大规模图上学习是困难的。在本文中，我们研究了在中等规模图上训练 GNN 并将其迁移到大规模图的问题。我们使用称为图极限的 graphon 来定义图滤波器和 GNN 的极限对象——graphon 滤波器和 graphon 神经网络（WNN）——我们将其解释为图滤波器和 GNN 的生成模型。然后我们证明，graphon 滤波器和 WNN 可以由从它们采样得到的加权随机图上的图滤波器和 GNN 来近似。由于这些近似的误差可以被上界限制，通过三角不等式论证，我们可以进一步限制跨图迁移图滤波器或 GNN 的误差。我们的结果表明：（i）迁移误差随图规模增大而减小，（ii）图滤波器存在可迁移性-可判别性权衡，而在 GNN 中，这种权衡通过非线性的散射行为得到缓解。这些发现在电影推荐问题和去中心化控制任务中得到了实证证明。
引用
@article{arxiv.2112.04629,
title = {Transferability Properties of Graph Neural Networks},
author = {Luana Ruiz and Luiz F. O. Chamon and Alejandro Ribeiro},
journal= {arXiv preprint arXiv:2112.04629},
year = {2023}
}
备注
IEEE TSP