Riemann-Theta 玻尔兹曼机
机器学习
2020-01-29 v3 机器学习
高能物理 - 唯象学
高能物理 - 理论
代数几何
摘要
引入了一种具有连续可见单元和离散整数值隐单元的通用玻尔兹曼机。在关于连接矩阵的温和假设下，可见单元的概率密度函数可解析求解，得到一种涉及 Riemann-Theta 函数之比的新型参数化密度函数。给定可见状态时隐状态的条件期望也可解析计算，得到对数 Riemann-Theta 函数的导数。该条件期望可用作前馈神经网络中的激活函数，从而提升网络的建模能力。该玻尔兹曼机及所导出的前馈神经网络均可通过标准的基于梯度与非梯度的优化技术成功训练。
引用
@article{arxiv.1712.07581,
title = {Riemann-Theta Boltzmann Machine},
author = {Daniel Krefl and Stefano Carrazza and Babak Haghighat and Jens Kahlen},
journal= {arXiv preprint arXiv:1712.07581},
year = {2020}
}
备注
29 pages, 11 figures, final version published in Neurocomputing