用于自回归模型的局部掩码卷积
机器学习
2020-06-30 v3 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
高维生成模型具有许多应用，包括图像压缩、多媒体生成、异常检测和数据补全。针对自然图像的最先进估计器是自回归的，其将像素上的联合分布分解为由深度神经网络（例如诸如 PixelCNN 的卷积神经网络）参数化的条件分布的乘积。然而，PixelCNN 仅对联合分布的一种分解进行建模，且只有一种生成顺序是高效的。对于图像补全之类的任务，这些模型无法利用大部分已观测到的上下文。为了以任意顺序生成数据，我们引入了 LMConv：对标准 2D 卷积的一种简单修改，允许在图像中每个位置对权重施加任意掩码。利用 LMConv，我们学习了一组共享参数但生成顺序不同的分布估计器集成，在全图像密度估计（无条件 CIFAR10 上 2.89 bpd）以及全局连贯的图像补全上取得了性能提升。我们的代码可在 https://ajayjain.github.io/lmconv 获取。
引用
@article{arxiv.2006.12486,
title = {Locally Masked Convolution for Autoregressive Models},
author = {Ajay Jain and Pieter Abbeel and Deepak Pathak},
journal= {arXiv preprint arXiv:2006.12486},
year = {2020}
}
备注
Published at Conference on Uncertainty in AI (UAI) 2020