Gene-MOE：一种利用泛癌基因组信息的稀疏门控预后与分类框架
机器学习
2023-12-19 v3 人工智能
摘要
受益于深度学习的进展，各种基因组分析技术，如生存分析、肿瘤及其亚型的分类以及特定通路的探索，已显著增强了我们对驱动癌症的生物机制的理解。然而，由患者样本数量有限引起的过拟合问题，对通过加深神经网络来提高基因组分析准确性构成了挑战。此外，诸如稀疏门控专家混合（MOE）和自注意力机制等新方法能否提高基因组分析的准确性仍不确定。本文中，我们引入一种称为 Gene-MOE 的新型稀疏门控 RNA-seq 分析框架。该框架利用 MOE 层及所提出的注意力专家混合（MOAE）层的潜力来提高分析准确性。此外，它通过预训练整合来自 33 种不同癌症类型的泛癌信息来解决过拟合挑战。我们在包含 33 种癌症类型的 TCGA 泛癌 RNA-seq 数据集上预训练了 Gene-MOE。随后，我们基于预训练的 Gene-MOE 进行了涉及癌症分类和生存分析的 experiments。根据在 14 种癌症类型上的生存分析结果，Gene-MOE 在 12 种癌症类型上优于最先进模型。通过详细的特征分析，我们发现 Gene-MOE 模型能够学习高维基因的丰富特征表示。根据分类结果，33 种癌症分类的分类模型总准确率达到 95.8%，相较于最先进模型表现最佳。这些结果表明 Gene-MOE 在癌症分类和生存分析中具有强大应用潜力。
引用
@article{arxiv.2311.17401,
title = {Gene-MOE: A sparsely gated prognosis and classification framework exploiting pan-cancer genomic information},
author = {Xiangyu Meng and Xue Li and Qing Yang and Huanhuan Dai and Lian Qiao and Hongzhen Ding and Long Hao and Xun Wang},
journal= {arXiv preprint arXiv:2311.17401},
year = {2023}
}