GeomCLIP：面向分子的对比几何-文本预训练
机器学习
2024-11-19 v1 生物大分子
摘要
分子表示预训练对于药物和材料发现至关重要。近期方法侧重于从几何结构中学习表示，有效捕获三维位置信息，但忽略了生物医学文本中详述分子性质和子结构的丰富信息。鉴于此，我们收集了20万对基态几何结构与生物医学文本的数据，构建了PubChem3D数据集。基于该数据集，我们提出了GeomCLIP框架，以增强从分子结构和生物医学文本中进行多模态表示学习的能力。在预训练期间，我们设计了两种任务，即多模态表示对齐和单模态去噪预训练，以使三维几何编码器与文本信息对齐，同时保持其原有的表示能力。实验结果表明，GeomCLIP在分子性质预测、零样本文本-分子检索和三维分子描述等多种任务中均有效。我们的代码和收集的数据集可在 https://github.com/xiaocui3737/GeomCLIP 获取。
引用
@article{arxiv.2411.10821,
title = {GeomCLIP: Contrastive Geometry-Text Pre-training for Molecules},
author = {Teng Xiao and Chao Cui and Huaisheng Zhu and Vasant G. Honavar},
journal= {arXiv preprint arXiv:2411.10821},
year = {2024}
}
备注
BIBM 2024