面向可扩展注意力MLIP的配方:通过全连接节点注意力实现长程精度
高能天体物理现象
2026-03-09 v1
摘要
机器学习原子势(MLIPs)取得了快速进展,许多顶级模型依赖强大的基于物理的归纳偏置。然而,随着模型规模扩大到更大系统(如生物分子和电解质),它们在捕捉长程(LR)相互作用方面难以准确预测,导致当前方法依赖显式的基于物理的术语或组件。本文提出了AllScAIP,一个简单、基于注意力的、能量守恒的MLIP模型,可扩展到级训练样本。它通过一种数据驱动的全连接节点注意力组件来解决长程挑战。大量消除实验证明,在低数据/小模型 regime中,归纳偏置提高了样本效率。然而,随着数据和模型规模的扩大,这些优势会减弱甚至反转,而全连接注意力对于捕捉LR相互作用至关重要。我们的模型在分子系统上实现了能量/力的SOTA精度,以及一系列基于物理的评估(OMol25),同时在材料(OMat24)和催化剂(OC20)方面也具有竞争力。此外,它实现了能够准确恢复实验可观测量(包括密度和蒸发热预测)的稳定、长时间尺度MD模拟。
引用
@article{arxiv.2603.06566,
title = {Data-Driven Trends and Subpopulations in the Gravitational Wave Binary Black Hole Merger Population with UMAP},
author = {A. J. Amsellem and I. Magaña Hernandez and A. Palmese and J. Gassert},
journal= {arXiv preprint arXiv:2603.06566},
year = {2026}
}
备注
26 pages, 13 figures, 3 tables