ZePo:基于快速采样的零样本肖像风格化
计算机视觉与模式识别
2024-08-13 v1
摘要
基于扩散的文本到图像生成模型极大地推进了艺术内容合成领域。然而,当前的肖像风格化方法通常需要基于示例的模型微调或使用 DDIM Inversion 将图像还原到噪声空间,两者都显著减慢了图像生成过程。为克服这些限制,本文提出了一种基于扩散模型的无逆肖像风格化框架,仅需四个采样步骤即可实现内容和风格特征的融合。我们观察到,采用一致性蒸馏的潜在一致性模型可以有效地从噪声图像中提取代表性的一致性特征。为了融合从内容图像和风格图像中提取的一致性特征,我们引入了一种风格增强注意力控制技术,在目标图像的注意力空间中精细地融合内容和风格特征。此外,我们提出了一种特征合并策略,以合并一致性特征中的冗余特征,从而降低注意力控制的计算负载。大量实验验证了所提出框架在提升风格化效率和保真度方面的有效性。代码可在 \url{https://github.com/liujin112/ZePo} 获取。
引用
@article{arxiv.2408.05492,
title = {ZePo: Zero-Shot Portrait Stylization with Faster Sampling},
author = {Jin Liu and Huaibo Huang and Jie Cao and Ran He},
journal= {arXiv preprint arXiv:2408.05492},
year = {2024}
}
备注
Accepted by ACM MM 2024