条件受限玻尔兹曼机的几何结构与表达能力
神经与进化计算
2015-03-13 v3 机器学习
机器学习
摘要
条件受限玻尔兹曼机(Conditional Restricted Boltzmann Machines)是一种无向随机神经网络,其输入层和输出层单元与隐藏层单元呈二分连接。这些网络定义了给定输入单元状态下输出单元状态的条件概率分布模型,并由交互权重和偏置参数化。我们探讨了这些模型的表示能力,证明了它们表示条件马尔可夫随机场和具有受限支撑的条件分布的能力、通用近似器的最小尺寸、最大模型近似误差以及可表示条件分布集合的维数。我们贡献了用于研究条件概率模型的新工具,使我们能够改进从现有关于受限玻尔兹曼机概率模型的工作中得出的结果。
引用
@article{arxiv.1402.3346,
title = {Geometry and Expressive Power of Conditional Restricted Boltzmann Machines},
author = {Guido Montufar and Nihat Ay and Keyan Ghazi-Zahedi},
journal= {arXiv preprint arXiv:1402.3346},
year = {2015}
}
备注
30 pages, 5 figures, 1 algorithm