扩展图神经网络的范围：用于全局编码的中继注意力节点
计算物理
2025-02-21 v2
摘要
图神经网络（GNNs）通常用于分子物理学、社会科学和经济学中，以对图状系统中的多体相互作用进行建模。然而，GNNs 本质上是局部的，可能会遭受信息流瓶颈。这在建模大型分子系统时尤其成问题，因为色散力和局部电场变化会驱动集体的结构变化。现有解决方案在计算成本和可扩展性方面面临挑战。我们引入了 RANGE，这是一个模型无关的框架，它采用基于注意力的聚合-广播机制，显著减少了过度挤压效应，并以可忽略的计算成本在捕获长程相互作用方面取得了显著的准确性。值得注意的是，RANGE 是第一个将注意力与位置编码和正则化相结合以动态扩展虚拟表示的虚拟节点消息传递实现。这项工作为下一代机器学习力场奠定了基础，为模拟大型分子系统提供了准确且高效的长程相互作用建模。
引用
@article{arxiv.2502.13797,
title = {Extending the RANGE of Graph Neural Networks: Relaying Attention Nodes for Global Encoding},
author = {Alessandro Caruso and Jacopo Venturin and Lorenzo Giambagli and Edoardo Rolando and Frank Noé and Cecilia Clementi},
journal= {arXiv preprint arXiv:2502.13797},
year = {2025}
}