基于Transformer的语言模型在核苷酸序列分析中的应用综述
计算与语言
2025-12-25 v1 人工智能
摘要
近年来，基于Transformer的语言模型在自然语言处理领域产生了重大影响。由于生物序列与自然语言之间可以建立相应的类比，NLP中使用的模型可以很容易地扩展和适配到生物信息学的各种应用中。在这方面，本文介绍了近年来基于Transformer的模型在核苷酸序列背景下的主要发展。我们回顾和分析了大量基于应用的论文，证明了其主要特征以及可以采用的不同方法来定制这些强大的计算模型。我们还提供了Transformer工作原理的结构化描述，使即使是初次使用者也能掌握此类复杂架构的精髓。我们相信本综述将帮助科学界理解基于Transformer的语言模型在核苷酸序列中的各种应用。本工作将激励读者在此方法论基础上构建，进一步解决生物信息学领域的各种其他问题。
引用
@article{arxiv.2412.07201,
title = {A Review on the Applications of Transformer-based language models for Nucleotide Sequence Analysis},
author = {Nimisha Ghosh and Daniele Santoni and Indrajit Saha and Giovanni Felici},
journal= {arXiv preprint arXiv:2412.07201},
year = {2025}
}