发现深度网络中的隐藏变化因子
机器学习
2015-06-18 v4 计算机视觉与模式识别
神经与进化计算
摘要
深度学习因其能够为分类等任务学习有用特征而取得了巨大成功。然而，对于分类信号之外的变化因子的学习探索较少。通过在训练期间用简单的正则化项增强自编码器，我们证明标准深度架构可以发现并显式表示超出分类相关范畴的变化因子。我们引入交叉协方差惩罚（XCov）作为一种方法来解耦因子，例如数字的手写风格和人脸中的主体身份。我们在 MNIST 手写数字数据库、多伦多人脸数据库（TFD）和 Multi-PIE 数据集上通过生成数据的操控实例对此进行了演示。此外，我们证明这些深度网络可以外推监督信号中的“隐藏”变化。
引用
@article{arxiv.1412.6583,
title = {Discovering Hidden Factors of Variation in Deep Networks},
author = {Brian Cheung and Jesse A. Livezey and Arjun K. Bansal and Bruno A. Olshausen},
journal= {arXiv preprint arXiv:1412.6583},
year = {2015}
}
备注
Presented at International Conference on Learning Representations 2015 Workshop