MultiPUFFIN：用于小分子热力学性质预测的多模态领域约束基础模型
机器学习
2026-05-26 v2 人工智能
摘要
MultiPUFFIN 是一个基于领域知识的多模态基础模型，用于预测小分子的热力学性质，填补了化学工程、药物发现和材料科学中的关键空白。现有的分子基础模型会在数百万分子上进行预训练，以学习通用表征，但其标准的多层感知机输出层不施加任何物理约束，蒸发压预测可能违反温度单调依赖性，粘度曲线可能缺乏过程仿真器所需的函数形式。已知领域知识的方法仅限于单一性质和小数据集，而多模态基础模型则聚焦于生物活性而非热力学性质。MultiPUFFIN 通过双向跨模态注意力和门控融合，融合 SMILES 序列、2D 分子图和3D构象几何，辅以实验条件和分子描述符的编码器。其背板在50万个未标记的PubChem分子上使用三种互补自监督目标进行预训练。随后采用五个条件化器（温度、pH、压力、晶型和测量方法）进行条件感知细化，每个性质路由到四头锦标赛，以选择该性质最佳的热力学信息头。MultiPUFFIN 在测试集上实现了0.784的平均R²，尽管仅使用约2000倍更少的标记分子，仍在九个性质上超越了在所有性质上都超越了微调的ChemBERTa-2。
引用
@article{arxiv.2603.00857,
title = {MultiPUFFIN: A Multimodal Domain-Constrained Foundation Model for Molecular Property Prediction of Small Molecules},
author = {Idelfonso B. R. Nogueira and Carine M. Rebello and Mumin Enis Leblebici and Erick Giovani Sperandio Nascimento},
journal= {arXiv preprint arXiv:2603.00857},
year = {2026}
}