相关神经网络
计算与语言
2015-10-13 v3 机器学习
神经与进化计算
机器学习
摘要
公共表示学习（CRL）将数据不同的描述（或视图）嵌入到公共子空间中，近来受到大量关注。此处的两种流行范式是基于典型相关分析（CCA）的方法和基于自编码器（AE）的方法。基于CCA的方法通过在投影到公共子空间时最大化视图间的相关性来学习联合表示。基于AE的方法通过最小化重构两个视图的误差来学习公共表示。这些方法各有优缺点。例如，尽管基于CCA的方法在迁移学习任务上优于基于AE的方法，但它们不如后者可扩展。在本工作中，我们提出一种称为相关神经网络（CorrNet）的基于AE的方法，其在投影到公共子空间时显式最大化视图间的相关性。通过一系列实验，我们证明所提出的CorrNet在学习相关公共表示的能力上优于上述方法。此外，我们将CorrNet用于若干跨语言任务，并显示使用CorrNet学习的表示优于使用其他最先进方法学习的表示。
引用
@article{arxiv.1504.07225,
title = {Correlational Neural Networks},
author = {Sarath Chandar and Mitesh M. Khapra and Hugo Larochelle and Balaraman Ravindran},
journal= {arXiv preprint arXiv:1504.07225},
year = {2015}
}
备注
27 pages. To Appear in Neural Computation