PromptLocate：定位提示词注入攻击
密码学与安全
2025-10-20 v2 人工智能
摘要
提示词注入攻击通过污染输入数据中的注入提示词，使大型语言模型执行攻击者指定的任务而非其原本的任务。该注入提示词包含注入指令和数据。对注入提示词在污染数据中的定位对于事后取证分析和数据恢复至关重要。尽管这一问题日益重要，但提示词注入定位仍 largely 未被探讨。本文提出了 PromptLocate——首个实现提示词注入定位的方法。PromptLocate 包含三个步骤：（1）将污染数据划分为语义连贯的片段；（2）识别被注入指令污染的片段；（3）定位被注入数据污染的片段。我们表明，PromptLocate 在八种现有攻击和八种自适应攻击下均能准确定位注入提示词。
引用
@article{arxiv.2510.12252,
title = {PromptLocate: Localizing Prompt Injection Attacks},
author = {Yuqi Jia and Yupei Liu and Zedian Shao and Jinyuan Jia and Neil Gong},
journal= {arXiv preprint arXiv:2510.12252},
year = {2025}
}
备注
To appear in IEEE Symposium on Security and Privacy, 2026. For slides, see https://people.duke.edu/~zg70/code/PromptInjection.pdf