MolFM-Lite：基于构象集合注意力与跨模态融合的多模态分子性质预测
机器学习
2026-02-27 v1 计算机视觉与模式识别
摘要
大多数用于分子性质预测的机器学习模型依赖单一分子表示（序列、图或 3D 结构），并将分子几何视为静态。我们提出 MolFM-Lite，一个多模态模型，通过跨注意力融合联合编码 SELFIES 序列（1D）、分子图（2D）和构象集合（3D），同时通过特征线性调制(FiLM)对实验背景进行条件化。我们的主要方法贡献包括：（1）一种构象集合注意力机制，将可学习注意力与对多个 RDKit 生成构象的布尔加权先验相结合，捕捉分子形状的热力学分布；（2）一种跨模态融合层，其中每个模态可注意力于其他模态，实现互补信息共享。在使用我们模型的自身划分进行四个 MoleculeNet scaffold-split 基准测试中进行评估，并报告所有基线在相同协议下重新评估的结果。全面的消融研究在四个数据集上表明，每个架构组件都独立贡献，三模态融合相对于单模态基线提升 7-11% AUC，构象集合约比单构象版本提升约 2%。在 ZINC250K（约25万分子）上进行的预训练，使用跨模态对比和掩码原子目标，实现了在 modest 计算成本下的有效权重初始化。我们发布所有代码、训练好的模型和数据划分，以支持可重复性。
引用
@article{arxiv.2602.22405,
title = {MolFM-Lite: Multi-Modal Molecular Property Prediction with Conformer Ensemble Attention and Cross-Modal Fusion},
author = {Syed Omer Shah and Mohammed Maqsood Ahmed and Danish Mohiuddin Mohammed and Shahnawaz Alam and Mohd Vahaj ur Rahman},
journal= {arXiv preprint arXiv:2602.22405},
year = {2026}
}