Medusa：多模态医学检索增强生成中的跨模态可迁移对抗攻击
密码学与安全
2025-11-25 v1 人工智能
机器学习
摘要
随着检索增强型视觉语言模型的快速发展，多模态医学检索增强生成 (MMed-RAG) 系统正日益被采用于临床决策支持。这些系统通过执行跨模态检索来整合相关视觉和文本证据，以实现报告生成和疾病诊断等任务。然而，其复杂架构也引入了未被充分探索的对抗性漏洞，尤其是通过视觉输入扰动。本文提出 Medusa，一种用于攻击 MMed-RAG 系统的新型跨模态可迁移对抗攻击框架，处于黑盒设置下。具体而言，Medusa 将攻击建模为扰动优化问题，利用多正 InfoNCE 损失 (MPIL) 将对抗视觉嵌入与医学上合理但恶意的文本目标对齐，从而劫持检索过程。为提升可迁�性，我们采用代理模型集成并设计双循环优化策略，辅以不变风险最小化 (IRM)。在两个真实医学任务上的大规模实验表明，Medusa 在合理参数配置下，对各种生成模型和检索器实现 90% 以上的平均攻击成功率，同时对四种主流防御具有鲁棒性，超越最先进的基线。我们的结果揭示了 MMed-RAG 系统的关键漏洞，并凸显了在安全关键医疗应用中进行鲁棒性基准测试的必要性。代码与数据已发布于 https://anonymous.4open.science/r/MMed-RAG-Attack-F05A。
引用
@article{arxiv.2511.19257,
title = {Medusa: Cross-Modal Transferable Adversarial Attacks on Multimodal Medical Retrieval-Augmented Generation},
author = {Yingjia Shang and Yi Liu and Huimin Wang and Furong Li and Wenfang Sun and Wu Chengyu and Yefeng Zheng},
journal= {arXiv preprint arXiv:2511.19257},
year = {2025}
}
备注
Accepted at KDD 2026 First Cycle (full version). Authors marked with * contributed equally. Yi Liu is the lead author