中文

面向可扩展注意力MLIP的配方:通过全连接节点注意力实现长程精度

高能天体物理现象 2026-03-09 v1

摘要

机器学习原子势(MLIPs)取得了快速进展,许多顶级模型依赖强大的基于物理的归纳偏置。然而,随着模型规模扩大到更大系统(如生物分子和电解质),它们在捕捉长程(LR)相互作用方面难以准确预测,导致当前方法依赖显式的基于物理的术语或组件。本文提出了AllScAIP,一个简单、基于注意力的、能量守恒的MLIP模型,可扩展到100million100 million级训练样本。它通过一种数据驱动的全连接节点注意力组件来解决长程挑战。大量消除实验证明,在低数据/小模型 regime中,归纳偏置提高了样本效率。然而,随着数据和模型规模的扩大,这些优势会减弱甚至反转,而全连接注意力对于捕捉LR相互作用至关重要。我们的模型在分子系统上实现了能量/力的SOTA精度,以及一系列基于物理的评估(OMol25),同时在材料(OMat24)和催化剂(OC20)方面也具有竞争力。此外,它实现了能够准确恢复实验可观测量(包括密度和蒸发热预测)的稳定、长时间尺度MD模拟。

关键词

引用

@article{arxiv.2603.06566,
  title  = {Data-Driven Trends and Subpopulations in the Gravitational Wave Binary Black Hole Merger Population with UMAP},
  author = {A. J. Amsellem and I. Magaña Hernandez and A. Palmese and J. Gassert},
  journal= {arXiv preprint arXiv:2603.06566},
  year   = {2026}
}

备注

26 pages, 13 figures, 3 tables