Bolek：面向分子推理的多模态语言模型
机器学习
2026-05-05 v1 人工智能
生物大分子
摘要
分子性质模型日益支持高风险的药物发现决策，但其输出往往难以审计：经典预测器仅返回分数而无解释依据，而语言模型则可能生成虽流畅却在输入分子上 grounding 较弱的解释。我们引入Bolek，一个紧凑的多模态语言模型，通过将摩根指纹嵌入注入到指令调优文本解码器中，以分子结构为自然语言推理提供 grounding。Bolek 在分子描述、RDKit 描述符预测和分子亚结构检测等分子对齐任务上进行微调，并在基于合成链式思维（chain-of-thought） anchored in concrete molecular features 的 15 个 TDC 二分类任务下进行推理。跨所有任务，Bolek 在 yes/no 模式下均超越其 Qwen3-4B-Instruct 基座，在 chain-of-thought 模式下在 13 个中的 15 个任务中表现更佳，将平均 ROC/PR AUC 从 0.55 提升至 0.76。它在 13 个二分类任务中均超越 TxGemma-9B-Chat，尽管规模不足其一半。Bolek 的解释比基线 LLM 更具 grounding：其链式思维中引用数值描述符的次数为 10-100 倍，且引用的数值与 RDKit 对关键描述符如 TPSA、MolLogP 和 MolWt 的值高度一致（Spearman rho = 0.87-0.91）。这些结果表明，针对性的模态注入和以可验证分子特征为依据的推理监督，能够产生紧凑且可审计的分子推理模型。
引用
@article{arxiv.2605.02745,
title = {Bolek: A Multimodal Language Model for Molecular Reasoning},
author = {Frederic Grabowski and Jacek Szczerbiński and Maciej Jaśkowski and Kalina Jasińska-Kobus and Paweł Dąbrowski-Tumański and Tomasz Jetka and Bartosz Topolski},
journal= {arXiv preprint arXiv:2605.02745},
year = {2026}
}