中文

HyperStyle:基于超网络实现 StyleGAN 反演以进行真实图像编辑

计算机视觉与模式识别 2022-03-30 v2

摘要

将真实图像反演到 StyleGAN 的潜空间是一个被充分研究的问题。然而,由于重建性与可编辑性之间的固有权衡——能够准确表示真实图像的潜空间区域通常伴随语义控制的退化,将现有方法应用于真实场景仍是一项开放挑战。近期工作提出通过对生成器进行微调,将目标图像添加到潜空间中行为良好、可编辑的区域,以缓解此权衡。虽有前景,该微调方案因对每张新图像都需漫长的训练阶段而在普遍使用中不切实际。在本工作中,我们将此方法引入基于编码器的反演领域。我们提出 HyperStyle,一个学习调制 StyleGAN 权重以在潜空间可编辑区域忠实表达给定图像的超网络。朴素的调制方法需训练参数量超三十亿的超网络。通过精心的网络设计,我们将其减少到与现有编码器相当。HyperStyle 产生的重建质量可与优化技术媲美,同时具备编码器近乎实时的推理能力。最后,我们展示了 HyperStyle 在反演任务之外的若干应用中的有效性,包括对训练期间从未见过的域外图像的编辑。

关键词

引用

@article{arxiv.2111.15666,
  title  = {HyperStyle: StyleGAN Inversion with HyperNetworks for Real Image Editing},
  author = {Yuval Alaluf and Omer Tov and Ron Mokady and Rinon Gal and Amit H. Bermano},
  journal= {arXiv preprint arXiv:2111.15666},
  year   = {2022}
}

备注

Accepted to CVPR 2022; Project page available at http://yuval-alaluf.github.io/hyperstyle/