SHIFT:流变换器中隐藏中间变量的引导
计算机视觉与模式识别
2026-04-13 v1
摘要
扩散模型已成为高保真图像生成的领导方法。最近的 DiT 基于扩散的模型在保持高质量样本的同时实现了强大的提示遵循。我们提出了 SHIFT,一种简单而有效且轻量级的框架,通过在推断时对中间激活进行有针对性的操控来实现概念消除,灵感来自大型语言模型中的激活引导。SHIFT 学习引导向量并动态应用于选定的层和时间步来抑制不受欢迎的视觉概念,同时保留提示的其余内容和整体图像质量。除了抑制,相同的机制还可以将生成的风格引导到所需的 \emph{style domain} 或倾向于添加或更改目标对象。我们展示了 SHIFT 在多样化提示和目标下提供了有效且灵活的 DiT 生成控制,无需耗时的重新训练。
引用
@article{arxiv.2604.09213,
title = {SHIFT: Steering Hidden Intermediates in Flow Transformers},
author = {Nina Konovalova and Andrey Kuznetsov and Aibek Alanov},
journal= {arXiv preprint arXiv:2604.09213},
year = {2026}
}