DEDUCE:基于解耦多头注意力对比学习的多组学数据癌症亚型发现
机器学习
2024-10-29 v3 人工智能
摘要
背景与目的:鉴于癌症的高异质性与临床多样性,不同癌症亚型间的多组学数据与临床特征存在显著差异。方法:我们提出一个名为 DEDUCE 的模型,基于对称多头注意力编码器(SMAE),用于无监督对比学习以分析多组学癌症数据,旨在识别与刻画癌症亚型。该模型采用无监督 SMAE,能够深度提取多组学数据的上下文特征与长程依赖,从而减轻噪声影响。重要的是,DEDUCE 引入一种基于多头注意力机制的亚型解耦对比学习方法,以同时从多组学数据学习特征并执行聚类以识别癌症亚型。通过在多组学数据的特征空间与样本空间中计算样本间相似性来进行亚型聚类。其基本思想是将多组学数据特征的各种属性解耦,并作为对比项进行学习。构建对比损失函数以量化正例与负例间的差异,模型最小化该差异,从而促进增强特征表示的获取。结果:DEDUCE 模型在模拟多组学数据集、单细胞多组学数据集与癌症多组学数据集上进行了广泛实验,优于 10 个深度学习模型。DEDUCE 模型优于 SOTA 方法,且消融实验证明了 DEDUCE 模型中各模块的有效性。最后,我们应用 DEDUCE 模型识别 AML 的六种癌症亚型。
引用
@article{arxiv.2307.04075,
title = {DEDUCE: Multi-head attention decoupled contrastive learning to discover cancer subtypes based on multi-omics data},
author = {Liangrui Pan and Xiang Wang and Qingchun Liang and Jiandong Shang and Wenjuan Liu and Liwen Xu and Shaoliang Peng},
journal= {arXiv preprint arXiv:2307.04075},
year = {2024}
}
备注
Accepted on Computer Methods and Programs in Biomedicine