对比散度中的停止准则:重构误差的替代方案
机器学习
2014-04-10 v2
摘要
受限玻尔兹曼机 (RBM) 是通用的无监督学习装置,用于确定数据分布的生成模型。RBM 通常使用对比散度学习算法 (CD) 进行训练,该算法是对数据对数似然梯度的近似。通常使用简单的重构误差来判断 CD 算法提供的近似是否足够好,尽管几位作者 (Schulz et al., 2010; Fischer & Igel, 2010) 已对该过程的可行性提出质疑。然而,文献中很少使用重构误差的替代方案。在本文中,我们研究了重构误差的简单替代方案,以便在学习过程中尽早检测到对数似然的下降。
引用
@article{arxiv.1312.6062,
title = {Stopping Criteria in Contrastive Divergence: Alternatives to the Reconstruction Error},
author = {David Buchaca and Enrique Romero and Ferran Mazzanti and Jordi Delgado},
journal= {arXiv preprint arXiv:1312.6062},
year = {2014}
}
备注
7 pages, 4 figures