受限玻尔兹曼机的Rademacher复杂度
机器学习
2015-12-08 v1
摘要
玻尔兹曼机作为深度信念网络和深度玻尔兹曼机的基本构建模块，在深度学习领域被广泛使用并取得了巨大成功。然而，其许多方面的理论理解仍远未清晰。本文中，我们研究了渐近受限玻尔兹曼机以及采用单步对比散度(CD-1)过程的实用实现的Rademacher复杂度。我们的结果揭示了实用实现训练过程确实增加了受限玻尔兹曼机的Rademacher复杂度这一事实。进一步的研究方向可能是考察CD-1过程中使用的组合函数的VC维。
引用
@article{arxiv.1512.01914,
title = {Rademacher Complexity of the Restricted Boltzmann Machine},
author = {Xiao Zhang},
journal= {arXiv preprint arXiv:1512.01914},
year = {2015}
}