Photoswap:图像中个性化主体替换
计算机视觉与模式识别
2023-05-30 v1 人工智能
摘要
在图像与视觉内容主导我们数字景观的时代,操控和个性化这些图像的能力已成为一种必需。设想将照片中慵懒地躺在洒满阳光窗台上的斑猫无缝替换为你自己活泼的小狗,同时保留图像原有的魅力与构图。我们提出 Photoswap,一种通过现有图像中的个性化主体替换来实现这种沉浸式图像编辑体验的新方法。Photoswap 首先从参考图像中学习主体的视觉概念,然后以无需训练的方式使用预训练的扩散模型将其替换到目标图像中。我们确立,一个构思良好的视觉主体可通过恰当的自注意力与交叉注意力操控无缝迁移至任意图像,保持被替换主体的姿态与图像的整体连贯性。综合实验凸显了 Photoswap 在个性化主体替换中的有效性与可控性。此外,Photoswap 在主体替换、背景保留和整体质量上的人类评分中显著优于基线方法,揭示了其从娱乐到专业编辑的广阔应用潜力。
引用
@article{arxiv.2305.18286,
title = {Photoswap: Personalized Subject Swapping in Images},
author = {Jing Gu and Yilin Wang and Nanxuan Zhao and Tsu-Jui Fu and Wei Xiong and Qing Liu and Zhifei Zhang and He Zhang and Jianming Zhang and HyunJoon Jung and Xin Eric Wang},
journal= {arXiv preprint arXiv:2305.18286},
year = {2023}
}
备注
14 pages