利用病毒感染生成式 AI
密码学与安全
2025-01-13 v1
摘要
本研究展示了一种利用嵌入在 JPEG 图像中的 EICAR 测试文件来测试视觉大语言模型（Vision-Large Language Model, VLM/LLM）安全边界的新方法。我们在多个 LLM 平台上成功执行了四种不同的协议，包括 OpenAI GPT-4o、Microsoft Copilot、Google Gemini 1.5 Pro 和 Anthropic Claude 3.5 Sonnet。实验验证了包含 EICAR 签名的修改后 JPEG 可以被上传、操作，并有可能在 LLM 虚拟工作空间中执行。主要发现包括：1）能够在图像元数据中隐藏 EICAR 字符串而不被检测的一致能力；2）在 LLM 环境中利用基于 Python 的操作成功提取测试文件；3）演示了包括 base64 编码和字符串反转在内的多种混淆技术。本研究将 Microsoft Research 的“渗透测试交战规则”框架扩展至评估基于云的生成式 AI 与 LLM 安全边界，特别关注容器化环境内的文件处理与执行能力。
引用
@article{arxiv.2501.05542,
title = {Infecting Generative AI With Viruses},
author = {David Noever and Forrest McKee},
journal= {arXiv preprint arXiv:2501.05542},
year = {2025}
}