神经势能的预训练策略
机器学习
2024-06-21 v2 化学物理
摘要
我们提出了一种针对图神经网络（GNNs）的掩码预训练方法，以提高其在拟合势能面方面的性能，特别是在水系统中。GNNs 通过从分子中恢复与被掩码原子相关的空间信息进行预训练，然后迁移并微调至原子力场。通过这种预训练，GNNs 学习了关于分子系统结构和底层物理信息的有意义先验，这些信息对下游任务很有用。通过全面的实验和消融研究，我们表明，与从头训练的 GNNs 或使用去噪等其他预训练技术的 GNNs 相比，所提出的方法提高了准确性和收敛速度。另一方面，我们的预训练方法既适用于以能量为中心的 GNNs，也适用于以力为中心的 GNNs。这种方法展示了其在提高 GNNs 拟合分子力场的性能和数据效率方面的潜力。
引用
@article{arxiv.2402.15921,
title = {Pretraining Strategy for Neural Potentials},
author = {Zehua Zhang and Zijie Li and Amir Barati Farimani},
journal= {arXiv preprint arXiv:2402.15921},
year = {2024}
}