中文

D2Styler:基于离散扩散方法的任意风格迁移技术

计算机视觉与模式识别 2024-08-08 v1 人工智能

摘要

在图像处理中,渲染图像语义意义使用多种艺术方法是最具挑战性的任务之一。现有技术在进行任意风格迁移(Arbitrary Style Transfer, AST)时常因风格图像与内容图像之间的差异导致模式坍缩、过度风格化或欠度风格化。我们提出一种新框架D2^2Styler(Discrete Diffusion Styler),利用VQ-GAN的离散表征能力以及离散扩散的优势(包括稳定训练和避免模式坍缩)。本方法使用自适应实例归一化(Adaptive Instance Normalization, AdaIN)特征作为逆扩散过程的上下文指导器。这使我们能够在不偏差地将风格图像的特征移动到内容图像上。该方法显著提升了风格迁移图像的视觉质量,使内容与风格能够以视觉上令人愉悦的方式组合。我们采用WikiArt数据集中的风格图像和COCO数据集中的内容图像进行实验。实验结果表明,D2^2Styler生成的高质量风格迁移图像在 nearly all 指标上均优于十二个现有方法。定性结果和消融研究进一步揭示了该技术有效性。代码已公开于 https://github.com/Onkarsus13/D2Styler。

关键词

引用

@article{arxiv.2408.03558,
  title  = {D2Styler: Advancing Arbitrary Style Transfer with Discrete Diffusion Methods},
  author = {Onkar Susladkar and Gayatri Deshmukh and Sparsh Mittal and Parth Shastri},
  journal= {arXiv preprint arXiv:2408.03558},
  year   = {2024}
}

备注

Paper accepted at 27th International Conference on Pattern Recognition (ICPR), 2024