基于模型自身理解的 Foundation Model 的 $\Delta$-模型校正
材料科学
2025-05-12 v2
摘要
原子间势的 Foundation model，即所谓的通用势，在应用于特定材料子类时可能需要微调或残差校正。在本工作中，我们展示了如何通过基于通用势中已嵌入表示的 -学习来实现此类增强。所引入的 -模型是一个高斯过程回归 (GPR) 模型，并讨论了表示向量的各种聚合类型（全局、物种分离和原子）。在全局结构优化设置中采用特定的通用势 CHGNet [Deng et al., Nat. Mach. Intell. 5, 1031 (2023)]，我们发现它正确描述了“8”型铜氧化物的能量学，这是 Cu(111) 上的一种超薄氧化膜。与近期基于 DFT 的文献中所讨论的结构相比，该通用势模型甚至预测出了更有利的结构。转向 Cu(111)、Ag(111) 和 Au(111) 上的硫吸附原子覆盖层时，CHGNet 模型则需要校正。我们证明，这些校正可以通过基于 CHGNet 自身内部原子嵌入表示构建的 GPR -模型高效提供。对校正的需求可追溯至 CHGNet 训练所用的材料项目数据库中金属-硫原子环境的稀缺性，这导致了对硫-硫原子环境的过度依赖。在相同数据上训练的其他通用势 MACE-MP0、SevenNet-0 和 ORB-v2-only-MPtrj 表现出类似行为，但错误程度各异，这证明了对通用势模型增强方案的普遍需求。
引用
@article{arxiv.2502.21179,
title = {$\Delta$-model correction of Foundation Model based on the models own understanding},
author = {Mads-Peter Verner Christiansen and Bjørk Hammer},
journal= {arXiv preprint arXiv:2502.21179},
year = {2025}
}
备注
10 pages, 9 figures