DuSEGO：对偶二阶等变图常微分方程
机器学习
2025-11-04 v3 人工智能
摘要
具有等变性质的图神经网络（GNNs）在建模复杂动态系统和分子性质方面取得了显著成功。然而，其表达能力受到以下限制：（1）现有方法往往忽视传统GNN模型导致的过度平滑问题，以及深层GNN中的梯度爆炸或消失问题。（2）大多数模型基于一阶信息运行，忽略了现实世界往往由二阶系统组成，这进一步限制了模型的表示能力。为解决这些问题，我们提出了用于等变表示的\textbf{Du}al \textbf{S}econd-order \textbf{E}quivariant \textbf{G}raph \textbf{O}rdinary Differential Equation (\method{})。具体而言，\method{}同时在图嵌入和节点坐标上应用对偶二阶等变图常微分方程（Graph ODEs）。理论上，我们首先证明了\method{}保持等变性质。此外，我们提供了理论见解，表明\method{}有效缓解了特征表示和坐标更新中的过度平滑问题。另外，我们证明了所提\method{}缓解了梯度爆炸和消失问题，便于训练深层多层GNNs。在基准数据集上的大量实验验证了所提\method{}相对于基线的优越性。
引用
@article{arxiv.2411.10000,
title = {DuSEGO: Dual Second-order Equivariant Graph Ordinary Differential Equation},
author = {Yingxu Wang and Nan Yin and Mingyan Xiao and Xinhao Yi and Siwei Liu and Shangsong Liang},
journal= {arXiv preprint arXiv:2411.10000},
year = {2025}
}