等变图神经网络中高次表示真的不必要吗？
机器学习
2025-10-16 v4
摘要
融合E(3)对称性的等变图神经网络（GNN）在各种科学应用中取得了显著成功。作为最成功的模型之一，EGNN利用简单的标量化技术，仅对笛卡尔向量（即一阶可转向向量）进行等变消息传递，与使用高阶可转向向量的等变GNN相比，具有更高的效率和有效性。这一成功表明高次表示可能是不必要的。在本文中，我们通过探索等变GNN在对称结构（包括 重旋转和正多面体）上的表达能力，反驳了这一假设。我们从理论上证明，如果输出表示的次数固定为1或其他特定值，等变GNN将总是退化为零函数。基于这一理论洞见，我们提出了HEGNN，即EGNN的高次版本，通过引入高次可转向向量来增强表达能力，同时通过标量化技巧保持EGNN的效率。我们的大量实验表明，HEGNN不仅与我们在由对称结构组成的玩具数据集上的理论分析一致，而且在更复杂的数据集（如 -body 和 MD17）上也显示出显著的改进。我们的理论发现和实证结果可能为等变GNN的研究开辟新的可能性。
引用
@article{arxiv.2410.11443,
title = {Are High-Degree Representations Really Unnecessary in Equivariant Graph Neural Networks?},
author = {Jiacheng Cen and Anyi Li and Ning Lin and Yuxiang Ren and Zihe Wang and Wenbing Huang},
journal= {arXiv preprint arXiv:2410.11443},
year = {2025}
}