MolKD：在化学反应中蒸馏跨模态知识用于分子性质预测
机器学习
2023-05-04 v1 人工智能
化学物理
摘要
如何有效表示分子是分子性质预测与药物发现中长期存在的挑战。本文研究该问题，并提出引入化学领域知识（特别是与化学反应相关的知识）来学习有效的分子表示。然而，化学反应与分子之间固有的跨模态特性带来了重大挑战。为此，我们提出一种新方法，即 MolKD，其在化学反应中蒸馏跨模态知识以辅助分子性质预测。具体而言，MolKD 中的反应到分子蒸馏模型将跨模态知识从使用一种模态（即反应）预训练的教师网络迁移到使用另一种模态（即分子）学习的学生网络。此外，MolKD 在反应上预训练时，通过引入反应产率来衡量反应物-产物对的转化效率，从而学习有效的分子表示。大量实验表明，MolKD 显著优于多种竞争性基线模型，例如在 Tox21 上绝对 AUC-ROC 提升 2.1%。进一步研究表明，MolKD 中预训练的分子表示能够区分化学上合理的分子相似性，从而实现具有高鲁棒性和可解释性的分子性质预测。
引用
@article{arxiv.2305.01912,
title = {MolKD: Distilling Cross-Modal Knowledge in Chemical Reactions for Molecular Property Prediction},
author = {Liang Zeng and Lanqing Li and Jian Li},
journal= {arXiv preprint arXiv:2305.01912},
year = {2023}
}