CROP:通过跨视图前缀整合拓扑与空间结构以增强分子大语言模型
定量方法
2025-08-12 v1 人工智能
摘要
大语言模型(LLMs)显著推动了分子科学的最新进展。然而,当仅依赖分子序列时,其有效性受到限制,因为序列无法捕捉分子的复杂结构。除了序列表示,分子还展现出两种互补的结构视图:第一种关注原子间的拓扑关系,如图视图所示;第二种强调分子的空间构型,如图像视图所示。这两类视图为分子结构提供了独特的见解。为了协同利用这些视图,我们提出了跨视图前缀(CROss-view Prefixes, CROP),通过高效的多视图集成来增强 LLMs 的分子理解能力。CROP 具有两大优势:(i) 高效性:通过将多个结构视图联合重采样为固定长度的前缀,避免了过度消耗 LLM 有限的上下文长度,并允许轻松扩展到更多视图;(ii) 有效性:通过利用 LLM 自编码的分子序列来指导重采样过程,提升了生成前缀的质量。具体而言,我们的框架包含一个精心设计的用于视图重采样的 SMILES 引导重采样器,以及一个用于将生成的嵌入转换为 LLM 前缀的结构嵌入门。大量实验证明了 CROP 在分子描述、IUPAC 名称预测和分子性质预测等任务中的优越性。
引用
@article{arxiv.2508.06917,
title = {CROP: Integrating Topological and Spatial Structures via Cross-View Prefixes for Molecular LLMs},
author = {Jianting Tang and Yubo Wang and Haoyu Cao and Linli Xu},
journal= {arXiv preprint arXiv:2508.06917},
year = {2025}
}
备注
Accepted to ACMMM 2025