面向文本到图像模型的基于令牌级约束边界搜索
计算机视觉与模式识别
2026-03-12 v2 密码学与安全
摘要
近年来，文本到图像 (T2I) 生成技术取得了快速进展，但也因潜在产生有害内容而引发安全顾虑。在实际部署中，T2I 服务通常采用结合提示检查器、受安全训练的生成器和事后图像检查器的全链路防御措施。由于提示令牌形成离散组合空间，攻击必须在稀疏反馈和有限查询限制下满足多个耦合约束，因此在黑盒设置下对全链路系统进行破解具有挑战性。为解决这些挑战，我们提出了令牌级约束边界搜索 (TCBS-Attack)，这是一种新颖的基于查询的黑盒破解攻击，该攻击搜索位于由文本和图像检查器定义的决策边界附近的令牌。TCBS-Attack 将决策边界作为约束条件，用于引导令牌群体的演化搜索，迭代优化这些边界附近的令牌。这种演化搜索过程减少了有效搜索空间，提高了查询效率，同时保持语义连贯性。广泛的实验表明，TCBS-Attack 在包括受安全训练的开源模型和来自 DALL-E 3 等商业在线服务的各种 T2I 模型上均显著优于最先进的破解攻击方法。在针对全链路 T2I 模型测试中，TCBS-Attack 的 ASR-4 为 52.5%，ASR-1 为 22.0%。
引用
@article{arxiv.2504.11106,
title = {Token-Level Constraint Boundary Search for Jailbreaking Text-to-Image Models},
author = {Jiangtao Liu and Zhaoxin Wang and Handing Wang and Cong Tian and Yaochu Jin},
journal= {arXiv preprint arXiv:2504.11106},
year = {2026}
}