蛋白质中的 Transformer:综述
机器学习
2025-05-28 v2 密码学与安全
定量方法
摘要
随着蛋白质信息学的快速发展,对提高预测准确性、结构分析和功能理解的需求日益增强。Transformer 模型作为强大的深度学习架构,在应对蛋白质研究中的各种挑战方面展现出了前所未有的潜力。然而,目前仍缺乏对 Transformer 在该领域应用的全面综述。本文通过调查 100 多项研究填补了这一空白,深入分析了 Transformer 在蛋白质相关任务中的实际应用和研究进展。我们的综述系统地涵盖了关键领域,包括蛋白质结构预测、功能预测、蛋白质-蛋白质相互作用分析、功能注释以及药物发现/靶点识别。为了将这些跨不同蛋白质领域的进展置于具体语境中,我们采用了面向领域的分类系统。我们首先介绍了基础概念:Transformer 架构和注意力机制,对为蛋白质科学量身定制的 Transformer 变体进行了分类,并总结了必要的蛋白质知识。对于每个研究领域,我们概述了其目标和背景,批判性地评估了先前的方法及其局限性,并重点介绍了 Transformer 模型带来的变革性贡献。我们还整理并总结了关键的数据集和开源代码资源,以促进可复现性和基准测试。最后,我们讨论了将 Transformer 应用于蛋白质信息学的持续挑战,并提出了未来的研究方向。本综述旨在为 Transformer 与蛋白质信息学的协同整合提供坚实的基础,促进该领域的进一步创新和更广泛的应用。
引用
@article{arxiv.2505.20098,
title = {Transformers in Protein: A Survey},
author = {Xiaowen Ling and Zhiqiang Li and Yanbin Wang and Zhuhong You},
journal= {arXiv preprint arXiv:2505.20098},
year = {2025}
}