预训练、微调与蒸馏(PFD):从通用模型自动生成机器学习力场
材料科学
2025-12-11 v3 计算物理
摘要
可泛化于整个元素周期表的通用力场代表了计算材料科学的新趋势。然而,通用力场在材料模拟中的应用受限于其缓慢的推理速度以及缺乏第一性原理精度。与其构建一个同时满足这些特性的单一模型,一种从通用模型快速生成特定材料模型的策略可能更为可行。在此,我们提出一种新的工作流模式 PFD(预训练、微调与蒸馏),它通过微调和蒸馏从预训练的通用模型中自动生成特定材料的机器学习力场。通过对预训练模型进行微调,我们的 PFD 工作流生成的力场具有第一性原理精度,同时与传统方法相比所需的训练数据量减少了一到两个数量级。通过蒸馏进一步提升了所生成力场的推理速度,满足了大规模分子模拟的要求。在包括非晶碳、界面等复杂系统在内的多种材料上进行的综合测试表明,训练效率得到显著提升,这表明 PFD 工作流是计算材料科学中一种实用且可靠的力场生成方法。
引用
@article{arxiv.2502.20809,
title = {Pre-training, fine-tuning, and distillation (PFD): Automatically generating machine learning force fields from universal models},
author = {Ruoyu Wang and Yuxiang Gao and Hongyu Wu and Zhicheng Zhong},
journal= {arXiv preprint arXiv:2502.20809},
year = {2025}
}
备注
11 pages, 8 figures