基于对比预训练的多语言分子表示学习
机器学习
2022-04-19 v3 计算与语言
化学物理
摘要
分子表示学习在化学信息学中起着至关重要的作用。近来,基于语言模型的方法作为一种替代传统专家设计特征来编码分子的方案日益流行。然而,这些方法仅利用单一分子语言进行表示学习。鉴于一个给定分子可以用不同语言描述,如简化分子线性输入规范(SMILES)、国际纯粹与应用化学联合会(IUPAC)命名法以及IUPAC国际化学标识符(InChI),我们提出了一种称为MM-Deacon(基于对比学习的多语言分子领域嵌入分析)的多语言分子嵌入生成方法。MM-Deacon在大规模分子上使用SMILES和IUPAC作为两种不同语言进行预训练。我们在MoleculeNet基准的七个分子性质预测任务、零样本跨语言检索以及一个药物-药物相互作用预测任务上评估了方法的鲁棒性。
引用
@article{arxiv.2109.08830,
title = {Multilingual Molecular Representation Learning via Contrastive Pre-training},
author = {Zhihui Guo and Pramod Sharma and Andy Martinez and Liang Du and Robin Abraham},
journal= {arXiv preprint arXiv:2109.08830},
year = {2022}
}
备注
Accepted to ACL 2022 main conference