大规模蛋白质接触预测模型的知识可迁移至数据稀缺的RNA接触预测任务
定量方法
2024-01-22 v3 机器学习
摘要
RNA的功能在很大程度上由其结构决定，其在许多生物活动中发挥重要作用。预测RNA序列各核苷酸之间的成对结构邻近性可表征RNA的结构信息。历史上，该问题由使用专家设计特征并在稀缺标注数据集上训练的机器学习模型来解决。在此，我们发现基于蛋白质共进化的Transformer深度神经网络学到的知识可迁移至RNA接触预测任务。由于蛋白质数据集比RNA接触预测数据集大数个数量级，我们的发现及后续框架极大缓解了数据稀缺瓶颈。实验证实，通过使用公开可用的蛋白质模型进行迁移学习，RNA接触预测得到大幅改善。我们的发现表明蛋白质学到的结构模式可迁移至RNA，为研究开辟了潜在的新途径。
引用
@article{arxiv.2302.06120,
title = {Knowledge from Large-Scale Protein Contact Prediction Models Can Be Transferred to the Data-Scarce RNA Contact Prediction Task},
author = {Yiren Jian and Chongyang Gao and Chen Zeng and Yunjie Zhao and Soroush Vosoughi},
journal= {arXiv preprint arXiv:2302.06120},
year = {2024}
}
备注
The code is available at https://github.com/yiren-jian/CoT-RNA-Transfer