注意力蒸馏：视觉特征传递的统一方法
计算机视觉与模式识别
2025-02-28 v1
摘要
最近的生成式扩散模型进展显示，其对图像风格和语义具有显著的内在理解能力。本文我们利用预训练扩散网络中的自注意力特征，将参考图像的视觉特征传递到生成图像中。不同于以往将这些特征作为即插即用属性的做法，我们提出一种基于理想风格化结果与当前风格化结果之间注意力蒸馏损失的新方法，通过在潜空间中进行反向传播来优化合成图像。随后，我们提出了一种改进的分类器引导方法，将注意力蒸馏损失集成到去噪采样过程中，以进一步加速合成过程，并支持广泛的图像生成应用。大量实验表明，我们的方法在将示例的风格、外观和纹理传递到合成图像中具有卓越的性能。代码已公开于 https://github.com/xugao97/AttentionDistillation。
引用
@article{arxiv.2502.20235,
title = {Attention Distillation: A Unified Approach to Visual Characteristics Transfer},
author = {Yang Zhou and Xu Gao and Zichong Chen and Hui Huang},
journal= {arXiv preprint arXiv:2502.20235},
year = {2025}
}
备注
Accepted to CVPR 2025. Project page: https://github.com/xugao97/AttentionDistillation