多轮对话的视觉记忆注入攻击
计算机视觉与模式识别
2026-02-19 v1 机器学习
摘要
生成式大型视觉-语言模型（LVLMs）最近取得了显著的性能提升，其用户基础正在快速增长。然而，LVLMs的安全性，特别是在长上下文多轮设置下，仍在很大程度上未被探索。本文考虑了攻击者将 manipulated 图像上传到网页/社交媒体的现实场景。恶意用户下载该图像并将其用作 LVLM 的输入。我们提出一种新型隐蔽的视觉记忆注入（VMI）攻击，使其在正常提示下表现出正常行为，但一旦用户给出触发提示，LVLM就会输出特定的既定目标消息以操纵用户，例如进行对抗营销或政治说服。与专注于单轮攻击的以往工作不同，VMI 即使在用户进行长时间多轮对话后仍然有效。我们在几个最新的开源 LVLMs 上演示了该攻击。该文章表明，even in 多轮对话设置中，利用扰动图像对大规模用户进行操纵是可行的，呼吁 LVLMs 在此类攻击方面表现出更好的鲁棒性。我们在 https://github.com/chs20/visual-memory-injection 上发布了源代码。
引用
@article{arxiv.2602.15927,
title = {Visual Memory Injection Attacks for Multi-Turn Conversations},
author = {Christian Schlarmann and Matthias Hein},
journal= {arXiv preprint arXiv:2602.15927},
year = {2026}
}