中文

LinkGAN:将 GAN 隐变量关联到像素以实现可控图像合成

计算机视觉与模式识别 2023-09-26 v2

摘要

本工作提出了一种易于使用的 GAN 训练正则化器,它有助于将隐空间的一些轴显式关联到合成图像中的一组像素。建立这样的联系便于对 GAN 生成进行更便捷的局部控制,用户仅需对隐码进行局部重采样,即可仅在某空间区域内改变图像内容。实验结果证实了我们的正则化器(称为 LinkGAN)的四个引人注目的性质。(1)隐变量-像素关联既可应用于固定区域(即对所有样本相同),也可应用于特定语义类别(即跨样本变化),如天空。(2)两个或多个区域可独立关联到不同隐变量轴,这进一步支持联合控制。(3)我们的正则化器能提升 2D 与 3D 感知 GAN 模型的空间可控性,且几乎不牺牲合成性能。(4)用我们的正则化器训练的模型兼容 GAN 反演技术,并在真实图像上保持可编辑性。

关键词

引用

@article{arxiv.2301.04604,
  title  = {LinkGAN: Linking GAN Latents to Pixels for Controllable Image Synthesis},
  author = {Jiapeng Zhu and Ceyuan Yang and Yujun Shen and Zifan Shi and Bo Dai and Deli Zhao and Qifeng Chen},
  journal= {arXiv preprint arXiv:2301.04604},
  year   = {2023}
}