矩阵乘积算符受限玻尔兹曼机
计算机视觉与模式识别
2018-11-13 v1
摘要
受限玻尔兹曼机(RBM)学习其输入样本上的概率分布，并具有降维、分类和生成建模等多种用途。传统RBM接受向量化数据，这忽略了原始张量（多向）输入中潜在的重要结构信息。已有提出的矩阵变体和张量变体RBM，称为MvRBM和TvRBM，但在模型构造上均具限制性，导致模型表达能力弱。本工作提出矩阵乘积算符RBM(MPORBM)，它利用Mv/TvRBM的张量网络推广，在可见层和隐藏层均保留输入格式，并具有更高的表达能力。我们还开发了一种集成对比散度和交替优化过程的新训练算法。数值实验将MPORBM与传统RBM和MvRBM在数据分类和图像补全与去噪任务上进行比较。还研究了MPORBM作为MPO秩函数的表达能力。
引用
@article{arxiv.1811.04608,
title = {Matrix Product Operator Restricted Boltzmann Machines},
author = {Cong Chen and Kim Batselier and Ching-Yun Ko and Ngai Wong},
journal= {arXiv preprint arXiv:1811.04608},
year = {2018}
}