具有可逆注意力的生成流
机器学习
2022-04-01 v4 计算机视觉与模式识别
摘要
基于流的生成模型已展现出通过一系列可逆变换显式学习数据概率密度函数的卓越能力。然而，在生成流中学习注意力仍研究不足，尽管其在其他领域已取得突破。为填补此空白，本文引入两类可逆注意力机制，即基于映射的和基于Transformer的注意力，用于无条件与有条件生成流。核心思想是利用这两类注意力的掩码方案，在生成流背景下学习长程数据依赖。该掩码方案允许具有可处理雅可比行列式可逆注意力模块，使其能无缝集成于基于流的模型的任意位置。所提注意力机制因能建模长程数据依赖，带来了更高效的生成流。在多个图像合成任务上的评估表明，所提注意力流实现了高效模型，并优于最先进的无条件与有条件生成流。
引用
@article{arxiv.2106.03959,
title = {Generative Flows with Invertible Attentions},
author = {Rhea Sanjay Sukthanker and Zhiwu Huang and Suryansh Kumar and Radu Timofte and Luc Van Gool},
journal= {arXiv preprint arXiv:2106.03959},
year = {2022}
}
备注
Accepted to CVPR 2022