最优传输图神经网络
机器学习
2021-10-12 v6 机器学习
摘要
当前的图神经网络（GNN）架构朴素地将节点嵌入平均或求和为一个聚合的图表示——可能丢失结构或语义信息。我们在此引入OT-GNN，一种使用参数化原型来计算图嵌入的模型，这些原型突出了不同图方面的关键特征。为实现此目标，我们成功地将最优传输（OT）与参数化图模型相结合。图表示由GNN节点嵌入集合与作为自由参数的“原型”点云之间的Wasserstein距离获得。我们从理论上证明，与传统的求和聚合不同，我们在点云上的函数类满足一个基本的通用逼近定理。在经验上，我们通过提出一种噪声对比正则化器来解决固有的崩溃优化问题，以引导模型真正利用OT几何。最后，我们在多个分子性质预测任务上优于流行方法，同时展现出更平滑的图表示。
引用
@article{arxiv.2006.04804,
title = {Optimal Transport Graph Neural Networks},
author = {Benson Chen and Gary Bécigneul and Octavian-Eugen Ganea and Regina Barzilay and Tommi Jaakkola},
journal= {arXiv preprint arXiv:2006.04804},
year = {2021}
}