基于邻域信息的对比散度学习停止准则
神经与进化计算
2015-07-27 v1 机器学习
摘要
受限玻尔兹曼机（RBMs）是通用的无监督学习模型，用以确定数据分布的生成模型。RBMs 常使用对比散度学习算法（CD）进行训练，该算法是数据对数似然梯度的一种近似。简单的重构误差常被用作 CD 的停止准则，尽管若干作者已对这一过程的可行性提出质疑。在许多情况下，重构误差的演化曲线是单调的，而对数似然并非如此，这表明前者并非学习最优停止点的良好估计量。然而，文献中很少讨论重构误差的替代方案。在本稿件中，我们研究了重构误差的简单替代方案，其基于将训练集邻域状态所包含的信息纳入，作为 CD 学习的停止准则。
引用
@article{arxiv.1507.06803,
title = {A Neighbourhood-Based Stopping Criterion for Contrastive Divergence Learning},
author = {E. Romero and F. Mazzanti and J. Delgado},
journal= {arXiv preprint arXiv:1507.06803},
year = {2015}
}
备注
7 pages. arXiv admin note: substantial text overlap with arXiv:1312.6062