Hidden Tail：导致视觉-语言模型隐蔽资源消耗的对抗性图像
密码学与安全
2025-08-27 v1 计算机视觉与模式识别
摘要
视觉-语言模型（VLMs）越来越多地部署在实际应用中，但其高昂的推理成本使其容易受到资源消耗攻击。先前的攻击尝试通过优化对抗性图像来延长 VLM 的输出序列，从而增加推理成本。然而，这些延长的输出通常会引入不相关的异常内容，损害了攻击的隐蔽性。这种有效性与隐蔽性之间的权衡构成了现有攻击的主要局限性。为了应对这一挑战，我们提出了 \textit{Hidden Tail}，一种隐蔽的资源消耗攻击，它制作与提示无关的对抗性图像，通过附加用户不可见的特殊 token 来诱导 VLM 生成最大长度的输出。我们的方法采用了一个复合损失函数，通过动态加权策略进行优化，该函数平衡了语义保持、重复特殊 token 诱导和序列结束（EOS）token 抑制。大量实验表明，\textit{Hidden Tail} 优于现有攻击，将输出长度增加了高达 19.2 倍并达到最大 token 限制，同时保持了攻击的隐蔽性。这些结果凸显了提高 VLM 针对效率导向对抗性威胁的鲁棒性的迫切需求。我们的代码可在 https://github.com/zhangrui4041/Hidden_Tail 获取。
引用
@article{arxiv.2508.18805,
title = {Hidden Tail: Adversarial Image Causing Stealthy Resource Consumption in Vision-Language Models},
author = {Rui Zhang and Zihan Wang and Tianli Yang and Hongwei Li and Wenbo Jiang and Qingchuan Zhao and Yang Liu and Guowen Xu},
journal= {arXiv preprint arXiv:2508.18805},
year = {2025}
}