AffinityNet：用于疾病类型预测的半监督少样本学习
机器学习
2018-09-07 v2 机器学习
摘要
尽管深度学习在计算机视觉和许多其他领域取得了巨大成功，但目前在具有“大 p、小 N”问题（即具有高维特征的相对少量样本）的患者基因组数据上表现不佳。为了使深度学习在少量训练数据下工作，我们必须设计促进少样本学习的新模型。在此我们提出亲和网络模型（AffinityNet），一种数据高效的深度学习模型，能够从有限数量的训练样本中学习并良好泛化。AffinityNet 模型的骨干由堆叠的 k 最近邻（kNN）注意力池化层组成。kNN 注意力池化层是图注意力模型（GAM）的推广，不仅可应用于图，也可应用于任意对象集合，无论是否给定图。作为一个新的深度学习模块，kNN 注意力池化层可像卷积层一样插入任何神经网络模型。作为 kNN 注意力池化层的简单特例，特征注意力层可直接选择对分类任务有用的关键特征。在合成数据和来自 TCGA 项目的癌症基因组数据上的实验表明，我们的 AffinityNet 模型在极少训练数据下比传统神经网络模型具有更好的泛化能力。代码可在 https://github.com/BeautyOfWeb/AffinityNet 免费获取。
引用
@article{arxiv.1805.08905,
title = {AffinityNet: semi-supervised few-shot learning for disease type prediction},
author = {Tianle Ma and Aidong Zhang},
journal= {arXiv preprint arXiv:1805.08905},
year = {2018}
}
备注
14 pages, 6 figures