隐形提示，显性威胁：大语言模型外部资源中的恶意字体注入
密码学与安全
2025-05-23 v1 人工智能
摘要
大语言模型（LLM）日益具备实时 web 搜索能力，并集成诸如 Model Context Protocol（MCP）等协议。这种扩展可能引入新的安全漏洞。我们系统性地调查了 LLM 针对通过外部资源（如网页）中恶意字体注入的隐藏对抗性提示的漏洞，攻击者通过操控字符到字形映射来注入对用户不可见的欺骗性内容。我们评估了两个关键攻击场景：（1）“恶意内容中继”和（2）通过 MCP 启用工具实现“敏感数据泄露”。我们的实验显示，通过外部资源注入恶意字体的间接提示可绕过 LLM 安全机制，根据数据敏感性和提示设计效果有所不同。我们的研究凸显了在处理外部内容时， LLM 部署迫切需要增强安全措施的重要性。
引用
@article{arxiv.2505.16957,
title = {Invisible Prompts, Visible Threats: Malicious Font Injection in External Resources for Large Language Models},
author = {Junjie Xiong and Changjia Zhu and Shuhang Lin and Chong Zhang and Yongfeng Zhang and Yao Liu and Lingyao Li},
journal= {arXiv preprint arXiv:2505.16957},
year = {2025}
}