条件化激活传输用于 T2I 安全驾驶
计算机视觉与模式识别
2026-03-04 v1 人工智能
摘要
尽管当前文本到图像 (T2I) 模型具有惊人的能力，但仍容易生成不安全和有毒内容。虽然激活驾驶提供了一种有前景的推理时干预方法，但我们注意到线性激活驾驶经常在应用于良好提示时会降低图像质量。为解决这一权衡，我们首先构建 SafeSteerDataset，一个包含 2300 对安全和不安全提示对的对比数据集，具有高余弦相似度。利用该数据，我们提出了条件化激活传输 (CAT)，一种采用几何基础条件机制和非线性传输图的框架。通过将传输图条件化仅在不安全激活区域激活，我们最小化了对良好查询的干扰。我们在两种最先进的架构上验证了该方法：Z-Image 和 Infinity。实验表明，CAT 能有效地跨越这些 backbone，显著降低攻击成功率，同时保持图像保真度与未驾驶生成相比较。警告：本文包含 potentially offensive 文本和图像。
关键词
引用
@article{arxiv.2603.03163,
title = {Conditioned Activation Transport for T2I Safety Steering},
author = {Maciej Chrabąszcz and Aleksander Szymczyk and Jan Dubiński and Tomasz Trzciński and Franziska Boenisch and Adam Dziedzic},
journal= {arXiv preprint arXiv:2603.03163},
year = {2026}
}