深层窄玻尔兹曼机是通用近似器
机器学习
2015-04-13 v3 机器学习
概率论
摘要
我们证明了深层窄玻尔兹曼机 (deep narrow Boltzmann machines) 是其可见单元活动概率分布的通用近似器，前提是它们拥有足够多的隐藏层，且每层包含与可见层相同数量的单元。我们表明，在某些参数域内，深层玻尔兹曼机可以作为前馈网络进行研究。我们提供了通用近似器所需深度和宽度的上下界。这些结果解决了关于无向网络的各种直觉问题，特别是表明，相对于这些模型目前可用的界限，深层窄玻尔兹曼机至少是与窄 Sigmoid 信念网络和受限玻尔兹曼机 (restricted Boltzmann machines) 一样紧凑的通用近似器。
引用
@article{arxiv.1411.3784,
title = {Deep Narrow Boltzmann Machines are Universal Approximators},
author = {Guido Montufar},
journal= {arXiv preprint arXiv:1411.3784},
year = {2015}
}
备注
Published as a conference paper at ICLR 2015