STELLA: 一种通过统一序列-结构编码的多模态 LLM 用于蛋白质功能注释
计算机视觉与模式识别
2025-06-05 v1
摘要
理解序列、结构与功能之间的复杂相互作用始终是蛋白质组学中的根本性挑战。序列-结构-功能范式认为，生物学功能由于主序列中编码的三级几何构象而支配；因此，整合这些多模态描述符对于准确的功能注释至关重要。虽然蛋白质语言模型（pLMs）通过在大规模序列数据上的表示学习取得了显著进展，但它们往往缺乏整合高分辨率结构信息和丰富文本语境的能力，这些是蛋白质功能特有的特征。在本工作中，我们提出了 STELLA，一种多模态 LLM，通过将双模态（序列-结构）表示与文本模态协调集成，来推进蛋白质功能注释。通过利用 ESM3 实现统一的双模态编码，并采用 Llama-3.1-8B-Instruct 进行自然语言建模，STELLA 在两个关键任务中实现了最先进的性能：功能描述预测和酶催化反应预测。本研究表明，多模态 LLM 代表了超越纯粹 pLMs 的范式转变，为蛋白质生物学和医学发现开辟了新的前沿。代码可通过 https://github.com/ocx-lab/STELLA 获取。
引用
@article{arxiv.2506.03799,
title = {ConText: Driving In-context Learning for Text Removal and Segmentation},
author = {Fei Zhang and Pei Zhang and Baosong Yang and Fei Huang and Yanfeng Wang and Ya Zhang},
journal= {arXiv preprint arXiv:2506.03799},
year = {2025}
}
备注
19 pages, 9 figures, Accepted at ICML 2025