用于生成建模的树张量网络
机器学习
2019-05-13 v1 统计力学
机器学习
量子物理
摘要
矩阵乘积态(MPS)是一种为一维量子系统设计的张量网络，近来被提出用于以“Born机”形式对自然数据（如图像）进行生成建模。然而，MPS中关联的指数衰减严重限制了其建模复杂数据（如自然图像）的表示能力。在本工作中，我们通过采用树张量网络(TTN)推进张量网络在机器学习中的应用，该网络在表达能力与高效训练及采样之间表现出均衡性能。我们设计树张量网络以利用自然图像的二维先验，并开发了可借助图形处理单元(GPU)高效实现的扫描学习与采样算法。我们将模型应用于随机二值模式及手写数字的二值MNIST数据集。我们表明，在保持自然图像中像素关联以及为标准手写数字数据集提供更好对数似然分数方面，TTN优于MPS用于生成建模。我们还将其性能与最先进的生成模型如变分自编码器、受限玻尔兹曼机和PixelCNN进行比较。最后，我们讨论了张量网络态在机器学习问题中的未来发展。
引用
@article{arxiv.1901.02217,
title = {Tree Tensor Networks for Generative Modeling},
author = {Song Cheng and Lei Wang and Tao Xiang and Pan Zhang},
journal= {arXiv preprint arXiv:1901.02217},
year = {2019}
}