FlowPool:利用 Wasserstein 梯度流汇聚图表示
机器学习
2022-05-20 v2
摘要
在若干面向图结构数据的机器学习任务中,所考虑的图可能由数量变化的节点组成。因此,有必要设计汇聚方法,将大小变化的图表示聚合为固定大小的表示,以供图分类等下游任务使用。现有的图汇聚方法无法保证图表示与其汇聚版本之间的相似性。本工作中,我们通过提出 FlowPool 来解决这一局限,该汇聚方法通过最小化图表示与其汇聚对应物之间的 Wasserstein 距离,最优地保留图表示的统计特性。这是通过对汇聚图表示执行 Wasserstein 梯度流实现的。我们的方法依赖于一种通用实现,可通过任意底代价考虑表示空间的几何结构,并利用自动微分计算 Wasserstein 距离的梯度。我们提出了使用隐式微分方案对 Wasserstein 流层进行微分。因此,我们的汇聚方法适用于自动微分,并可集成于端到端深度学习架构中。此外,FlowPool 对置换具有不变性,因此可与 GNN 中的置换等变特征提取层结合,以获得独立于节点排序的预测。实验结果表明,在图分类评估中,与现有汇聚方法相比,我们的方法提升了性能。
引用
@article{arxiv.2112.09990,
title = {FlowPool: Pooling Graph Representations with Wasserstein Gradient Flows},
author = {Effrosyni Simou},
journal= {arXiv preprint arXiv:2112.09990},
year = {2022}
}