神经网络输出的无监督学习：在零样本学习中的应用
机器学习
2016-05-24 v9
摘要
训练好的神经网络输出所包含的信息远比一个独热分类器丰富。例如，神经网络可能给一张狗的图像百万分之一概率为猫，但这仍远大于为车的概率。为揭示其中的隐藏结构，我们将两种无监督学习算法PCA和ICA应用于在1000类ImageNet上训练的深度卷积神经网络(CNN)的输出。物体类别的PCA/ICA嵌入揭示了它们的视觉相似性，且PCA/ICA分量可被解释为相似物体类别共享的通用视觉特征。作为应用，我们提出了一种新零样本学习(zero-shot learning)方法，其中采用了PCA/ICA学习到的视觉特征。我们的零样本学习方法在超过20000类的ImageNet上取得了当前最优(state-of-the-art)结果。
引用
@article{arxiv.1506.00990,
title = {Unsupervised Learning on Neural Network Outputs: with Application in Zero-shot Learning},
author = {Yao Lu},
journal= {arXiv preprint arXiv:1506.00990},
year = {2016}
}