中文

CrossLLM-Mamba:基于状态空间融合的多模态 LLM 用于 RNA 相互作用预测

基因组学 2026-02-27 v1 计算机视觉与模式识别 机器学习

摘要

RNA 相关相互作用的准确预测对于理解细胞调控和推进药物发现至关重要。虽然生物大语言模型 (BioLLM) 如 ESM-2 和 RiNALMo 提供了强大的序列表示,但现有方法依赖静态融合策略,无法捕捉分子结合的动态、情境依赖性。我们提出 CrossLLM-Mamba,一种新颖框架,将相互作用预测重新表述为状态空间对齐问题。通过利用双向 Mamba 编码器,我们的方法通过隐藏状态传播实现模态特定嵌入之间的深层“交叉作用”,将相互作用建模为动态序列过渡而非静态特征重叠。该框架保持线性计算复杂度,能够扩展到高维 BioLLM 嵌入。我们进一步引入高斯噪声注入和焦点损失 (Focal Loss),以增强对硬负样本的鲁棒性。针对三类相互作用(RNA-蛋白、RNA-小分子和 RNA-RNA)进行了全面实验,CrossLLM-Mamba 实现了最先进的性能。在 RPI1460 数据集上,我们的模型实现了 MCC 为 0.892,超越前一最佳模型 5.2%。对于结合亲和力预测,我们在 riboswitch 和重复 RNA 亚型上实现了 Pearson 相关系数超过 0.95。这些结果确立了状态空间建模作为多模态生物相互作用预测强大范式。

关键词

引用

@article{arxiv.2602.22236,
  title  = {CrossLLM-Mamba: Multimodal State Space Fusion of LLMs for RNA Interaction Prediction},
  author = {Rabeya Tus Sadia and Qiang Ye and Qiang Cheng},
  journal= {arXiv preprint arXiv:2602.22236},
  year   = {2026}
}