深度受限玻尔兹曼网络
机器学习
2016-11-24 v1
摘要
为图像构建良好的生成模型长期以来一直是计算机视觉和机器学习中的重要课题。受限玻尔兹曼机（RBM）就是这样一种简单但强大的模型。然而，其受限形式也对模型的表示能力和可扩展性施加了沉重的约束。为了产生更强大、更深的架构，人们基于 RBM 发明了许多扩展。其中最著名的是深度信念网络，它堆叠多个逐层预训练的 RBM 以形成混合模型；以及深度玻尔兹曼机，它允许隐藏单元之间建立连接以形成多层结构。在本文中，我们提出了一种组合 RBM 以形成多层网络风格架构的新方法，以及一种联合训练所有层的训练方法。我们将所得结构称为深度受限玻尔兹曼网络。我们进一步探索了卷积 RBM 与普通全连接 RBM 的组合，这在我们提出的组合框架下变得轻而易举。实验表明，我们的模型能够生成较好的图像，并在图像质量和特征质量方面显著优于普通 RBM，同时未损失太多训练效率。
引用
@article{arxiv.1611.07917,
title = {Deep Restricted Boltzmann Networks},
author = {Hengyuan Hu and Lisheng Gao and Quanbin Ma},
journal= {arXiv preprint arXiv:1611.07917},
year = {2016}
}