面向大型视觉语言模型的资源消耗红队测试
密码学与安全
2025-09-29 v2 计算与语言
摘要
资源消耗攻击（Resource Consumption Attacks, RCAs）已成为大型语言模型（Large Language Models, LLMs）部署中的重要威胁。随着视觉模态的集成，额外的攻击向量会加剧大型视觉语言模型（Large Vision-Language Models, LVLMs）的RCAs风险。然而，现有的红队测试研究主要忽视了视觉输入作为潜在攻击面的问题，导致针对LVLMs的RCAs防御策略不足。为填补这一差距，我们提出了RECITE（Resource Consumption Red-Teaming for LVLMs），这是一种首次利用视觉模态触发无界RCAs红队测试的方法。首先，我们提出了“视觉引导优化”（Vision Guided Optimization），即一种基于像素级别的细粒度优化，旨在获得“输出回忆目标”（Output Recall Objective）对抗性扰动，这些扰动可诱导重复输出。随后，我们将扰动注入视觉输入中，通过触发无界生成来实现RCAs的目标。实证结果表明，RECITE将服务响应延迟提高了26%，导致GPU利用率和内存消耗分别增加20%。我们的研究揭示了LVLMs的安全漏洞，并建立了一个可促进未来RCAs防御开发的红队测试框架。
引用
@article{arxiv.2507.18053,
title = {Resource Consumption Red-Teaming for Large Vision-Language Models},
author = {Haoran Gao and Yuanhe Zhang and Zhenhong Zhou and Lei Jiang and Fanyu Meng and Yujia Xiao and Li Sun and Kun Wang and Yang Liu and Junlan Feng},
journal= {arXiv preprint arXiv:2507.18053},
year = {2025}
}