C3P：对比性 promoter-protein 预训练捕获细菌基因调控
基因组学
2026-05-26 v1
摘要
尽管基因组语言模型（gLMs）规模不断扩大，但其解码调控序列功能的能力尚不明确。gLMs的预训练依赖于序列重建，这可能因调控DNA嘈杂且快速演化而难以实现。自监督对比方法提供了有前景的替代方案。以类似CLIP这样的语言-图像架构为灵感，我们引入对比性 promoter-protein 预训练（C3P）。通过学习将 promoter 对齐到其对应的 protein，我们利用来自蛋白质语言模型所学习的丰富表征，作为学习 promoter 表征的监督信号。在训练8800万条细菌 promoter-protein 对后，我们评估了C3P学习到的 promoter 表征在推断 curated 调控注释方面的预测能力，发现相较于领先的gLMs显著提升。我们还引入了零样态 co-regulated gene 检索，即使用无实验数据即可在基因组中查找共调控基因。我们发现，与随机初始化的基线相比，C3P训练在零样态性能上始终提供显著的提升，不同于传统gLMs。规模分析揭示了C3P的潜力以及其效率——该方法以领先gLMs的训练成本的极小比例即可实现强性能。除了证明C3P训练对于学习细菌调控序列表征有效外，我们的强大零样态共调控基因检索性能表明，从基因组中alone 推断数百万细菌的基因调控是可能的。
引用
@article{arxiv.2605.25242,
title = {C3P: Contrastive promoter-protein pretraining yields representations capturing bacterial gene regulation},
author = {Cameron Dufault and Scott Xu and Alan M. Moses},
journal= {arXiv preprint arXiv:2605.25242},
year = {2026}
}