灵活 2D 与 3D 模态的统一分子预训练:单模态与双模态集成
机器学习
2025-10-09 v1 人工智能
摘要
分子表示学习在推动药物发现和材料设计等应用方面发挥着关键作用。现有工作利用分子信息的 2D 和 3D 模态进行预训练,以捕获全面的结构和几何洞察。然而,这些方法需要配对的 2D 和 3D 分子数据来有效训练模型,并防止其坍缩为单一模态,这在某些模态不可用或难以生成的场景中提出了限制。为克服这一限制,我们提出了 FlexMol—a 灵活的分子预训练框架,该框架在支持单模态输入的同时学习统一的分子表示。具体地,受视觉-语言模型中统一结构的启发,我们的方法为 2D 和 3D 分子数据分别采用独立模型,利用参数共享提高计算效率,并利用解码器生成缺失模态的特征。这使得在训练期间实现了以双模态协同方式进行的多阶段连续学习过程,而在推理时仅需单模态即可确保鲁棒性。广泛的实验表明,FlexMol 在广泛的分子属性预测任务上实现了优异性能,我们也实证证明其在数据不完整时同样有效。我们的代码和数据已公开于 https://github.com/tewiSong/FlexMol。
引用
@article{arxiv.2510.07035,
title = {Unified Molecule Pre-training with Flexible 2D and 3D Modalities: Single and Paired Modality Integration},
author = {Tengwei Song and Min Wu and Yuan Fang},
journal= {arXiv preprint arXiv:2510.07035},
year = {2025}
}
备注
CIKM 2025