深度核化自编码器
机器学习
2018-07-24 v2 机器学习
神经与进化计算
摘要
自编码器以这样一种方式学习数据表示(编码):在网络的输出端重构输入。然而,究竟需要由编码捕获输入数据的哪些性质,这一点并不总是清晰的。核机器通过在理论上定义良好的再生核希尔伯特空间中进行内积运算而取得了巨大成功,从而捕获了输入数据的拓扑性质。在本文中,我们通过使编码之间的内积与核矩阵对齐,增强了自编码器学习有效数据表示的能力。通过这样做,所提出的核化自编码器允许学习输入数据的保相似度嵌入,其中相似度的概念由用户显式控制并编码于一个半正定核矩阵中。实验在分类任务和高维数据可视化中评估了重构与核对齐性能。此外,我们表明我们的方法能够在去噪任务上模拟核主成分分析,以低得多的计算代价获得具有竞争力的结果。
引用
@article{arxiv.1807.07868,
title = {The Deep Kernelized Autoencoder},
author = {Michael Kampffmeyer and Sigurd Løkse and Filippo M. Bianchi and Robert Jenssen and Lorenzo Livi},
journal= {arXiv preprint arXiv:1807.07868},
year = {2018}
}
备注
This work extends the preliminary (conference) version of this paper (arXiv:1702.02526), Applied Soft Computing, Elsevier, 2018