中文

距离矩阵足以支撑几何深度学习吗?

机器学习 2024-10-22 v6 人工智能

摘要

图神经网络(GNNs)常用于涉及给定图的三维几何的任务,例如分子动力学模拟。虽然将欧氏距离纳入消息传递神经网络(称为 Vanilla DisGNN)是学习几何的直接方式,但已有证明表明 Vanilla DisGNN 在几何上是不完备的。本文中,我们首先构造了新颖且对称的几何图族,即便考虑所有点对距离,Vanilla DisGNN 也无法区分它们,这极大扩展了已有的反例族。我们的反例揭示了 Vanilla DisGNN 捕捉对称几何结构的内在局限。随后我们提出 kk-DisGNNs,可有效利用距离矩阵中蕴含的丰富几何。我们从三个角度证明 kk-DisGNNs 的高表达能力:1. 它们能学习 Vanilla DisGNN 无法捕捉的高阶几何信息。2. 它们可统一一些已有的精心设计的几何模型。3. 它们是几何图到标量(当 k2k\geq 2)与向量(当 k3k\geq 3)的通用函数逼近器。最重要的是,我们建立了几何深度学习(GDL)与传统图表示学习(GRL)之间的联系,表明那些最初为 GRL 设计的高表达力 GNN 模型也能以优异性能应用于 GDL,且现有复杂的等变模型并非唯一解。实验验证了我们的理论。我们的 kk-DisGNNs 在 MD17 上取得了许多新的最先进结果。

关键词

引用

@article{arxiv.2302.05743,
  title  = {Is Distance Matrix Enough for Geometric Deep Learning?},
  author = {Zian Li and Xiyuan Wang and Yinan Huang and Muhan Zhang},
  journal= {arXiv preprint arXiv:2302.05743},
  year   = {2024}
}

备注

NeurIPS 2023. This new version includes corrections of some minor typos and potentially unclear notations