基于分组扩散过程的序列数据生成
计算机视觉与模式识别
2023-10-03 v1 机器学习
摘要
我们提出分组扩散模型（GDM），其将数据划分为多个组，并在前向扩散过程中于一个时间间隔内扩散一组。GDM 在一个时间间隔内从一组顺序生成数据，从而带来若干有趣性质。首先，作为扩散模型的扩展，GDM 推广了某些形式的自回归模型与级联扩散模型。作为一个统一框架，GDM 使我们能研究先前工作被忽视的设计选择，如数据分组策略与生成顺序。此外，由于初始噪声的一组仅影响生成数据的某一组，潜空间现在具备分组可解释含义。我们可进一步将 GDM 扩展到频域，其中前向过程顺序扩散各组频率分量。将数据频带划分为组使得潜变量成为层次化表示，其中各个组在不同抽象层级编码数据。我们展示了此种表示的若干应用，包括语义属性解耦、图像编辑与生成变体。
引用
@article{arxiv.2310.01400,
title = {Sequential Data Generation with Groupwise Diffusion Process},
author = {Sangyun Lee and Gayoung Lee and Hyunsu Kim and Junho Kim and Youngjung Uh},
journal= {arXiv preprint arXiv:2310.01400},
year = {2023}
}