S2WAT:基于条带窗口注意力的分层视觉 Transformer 图像风格迁移方法
计算机视觉与模式识别
2023-12-18 v3
摘要
Transformer 近期被引入风格迁移,利用其建立长程依赖的能力,但以局部建模被削弱为代价。本文提出条带窗口注意力 Transformer(S2WAT),一种专为风格迁移设计的新型分层视觉 Transformer。S2WAT 在不同窗口形状下进行注意力计算,以捕获短程与长程依赖。合并后的依赖采用“Attn Merge”策略,基于其与目标的相关性自适应确定空间权重。在代表性数据集上的大量实验表明,与最先进的(SOTA)基于 Transformer 的方法及其他方法相比,所提方法有效。代码与预训练模型见 https://github.com/AlienZhang1996/S2WAT。
引用
@article{arxiv.2210.12381,
title = {S2WAT: Image Style Transfer via Hierarchical Vision Transformer using Strips Window Attention},
author = {Chiyu Zhang and Xiaogang Xu and Lei Wang and Zaiyan Dai and Jun Yang},
journal= {arXiv preprint arXiv:2210.12381},
year = {2023}
}
备注
Accepted by AAAI 2024