愿力与你同在：面向三维分子构象的力中心统一预训练
化学物理
2023-08-30 v1 人工智能
机器学习
生物大分子
摘要
近期工作表明，学习三维分子表示的预训练模型具有前景。然而，现有预训练模型主要关注平衡态数据，并在很大程度上忽略了非平衡态构象。由于这些方法的训练目标依赖于构象为局部能量极小值的假设，将其扩展到非平衡态数据具有挑战性。我们通过提出一种覆盖平衡态与非平衡态数据的、以力为中心的三维分子构象预训练模型来弥补这一空白。对于非平衡态数据，我们的模型直接从其原子力中学习。对于平衡态数据，我们引入零力正则化与基于力的去噪技术来近似近平衡态力。我们获得了一个基于超过1500万种多样构象的统一三维分子表示预训练模型。实验表明，借助我们的预训练目标，与未预训练的等变Transformer（Equivariant Transformer）模型相比，我们将力的精度提高了约3倍。通过对平衡态数据引入正则化，我们解决了原始等变Transformer中分子动力学（MD）模拟不稳定的问题，以比NequIP快2.45倍的推理时间实现了最先进的模拟性能。作为一个强大的分子编码器，我们的预训练模型在性质预测任务上取得了与最先进水平相当的性能。
引用
@article{arxiv.2308.14759,
title = {May the Force be with You: Unified Force-Centric Pre-Training for 3D Molecular Conformations},
author = {Rui Feng and Qi Zhu and Huan Tran and Binghong Chen and Aubrey Toland and Rampi Ramprasad and Chao Zhang},
journal= {arXiv preprint arXiv:2308.14759},
year = {2023}
}