关于训练深度玻尔兹曼机
神经与进化计算
2012-03-21 v1 人工智能
机器学习
摘要
深度玻尔兹曼机（DBM）一直是追求强大“深度”概率模型的重要发展。迄今为止，使用现有训练方法同时或联合训练DBM的所有层在很大程度上是不成功的。我们引入了一种简单的正则化方案，鼓励与每个隐藏单元关联的权重向量具有相似的范数。我们证明，这种正则化可以很容易地与标准随机最大似然相结合，为深度玻尔兹曼机所有层的同步训练提供有效的训练策略。
引用
@article{arxiv.1203.4416,
title = {On Training Deep Boltzmann Machines},
author = {Guillaume Desjardins and Aaron Courville and Yoshua Bengio},
journal= {arXiv preprint arXiv:1203.4416},
year = {2012}
}