树搬移距离:连接图度量与图神经网络的稳定性
机器学习
2022-10-06 v1 机器学习
摘要
理解机器学习模型的泛化与鲁棒性从根本上依赖于在数据空间上假定恰当的度量。识别此类度量对图等非欧几里得数据尤其具有挑战性。在此,我们提出一种用于属性图的非度量距离——树搬移距离(TMD),并研究其与泛化的关系。通过一个分层最优传输问题,TMD 反映了节点属性的局部分布以及局部计算树的分布,而后者已知对图神经网络(GNNs)的学习行为具有决定性。首先,我们展示 TMD 捕获了与图分类相关的性质:一个简单的 TMD-SVM 与标准 GNN 竞争力相当。其次,我们将 TMD 与分布偏移下 GNN 的泛化相联系,并表明其与此类偏移下的性能下降高度相关。
引用
@article{arxiv.2210.01906,
title = {Tree Mover's Distance: Bridging Graph Metrics and Stability of Graph Neural Networks},
author = {Ching-Yao Chuang and Stefanie Jegelka},
journal= {arXiv preprint arXiv:2210.01906},
year = {2022}
}