基于量子力学数据的原子级预训练对图神经网络分子性质模型的分析
机器学习
2024-05-28 v2 化学物理
量子物理
摘要
尽管深度学习在定量结构-活性关系(QSAR)模型方面取得了迅猛且显著的进展,但学习能在现实场景下对新化合物有效泛化的鲁棒分子表征仍是一个尚未解决且难以攻克的挑战。本研究考察了利用量子力学(QM)数据进行原子级预训练如何缓解关于训练数据和测试数据分布相似性假设违反的问题,从而提高下游任务的性能和泛化能力。在公共数据集Therapeutics Data Commons(TDC)中,我们展示了在原子级QM数据上进行预训练总体上能提升性能,并使特征激活分布更接近高斯分布,从而产生更抗分布迁移的表征。迄今为止,尚无人对隐藏状态分子表征进行分析,以比较分子级和原子级预训练对QM数据的影响。
引用
@article{arxiv.2405.14837,
title = {Analysis of Atom-level pretraining with Quantum Mechanics (QM) data for Graph Neural Networks Molecular property models},
author = {Jose Arjona-Medina and Ramil Nugmanov},
journal= {arXiv preprint arXiv:2405.14837},
year = {2024}
}
备注
6 pages + 11 Supplement Materials