FInC Flow：用于归一化流的快速可逆 $k \times k$ 卷积

自 Glow 中引入以来，可逆卷积一直是构建富于表现力的基于归一化流的生成模型的基本要素。已有若干尝试设计在训练和采样过程中高效的不可逆 $k \times k$ 卷积。尽管这些尝试提升了表现力和采样效率，但在采样时间上远远落后于仅使用 $1 \times 1$ 卷积的 Glow。此外，许多方法掩盖了底层卷积的大量参数，导致在固定运行时间预算下表现力较低。我们提出了一种 $k \times k$ 卷积层和深度归一化流架构，其 i.) 具有运行时间为 O$(n k^2)$ 的快速并行逆算法（$n$ 为输入图像的高和宽，$k$ 为核大小），ii.) 在层中掩盖最少量的可学习参数，iii.) 在真实基准上给出与其他基于 $k \times k$ 卷积的模型相当的更优前向传播和采样时间。我们提供了所提并行采样算法在 GPU 上使用我们的可逆卷积的实现。在 CIFAR-10、ImageNet 和 CelebA 数据集上的基准测试显示，在每维比特数方面与先前工作性能相当，同时显著改善了采样时间。