BrowseSafe：了解与防止AI浏览器代理中的提示注入
机器学习
2025-11-26 v1 人工智能
密码学与安全
摘要
将人工智能 (AI) 代理集成到网页浏览器中引入了超越传统 web 应用威胁模型的安全挑战。先前的工作已识别提示注入作为 web 代理的新攻击向量，但其在真实环境中的实际影响仍不足以被理解。在本工作中，我们检查了提示注入攻击的格局，并综合了嵌入在真实 HTML 有效负载中的攻击基准。我们的基准超越先前工作，强调能够影响实际行动而非仅输出文本的注入，并呈现具有与真实代理环境相似复杂度和干扰频率的攻击有效负载。我们利用该基准对现有防御措施进行全面实证评估，评估其在一套前沿 AI 模型上的有效性。我们提出了一种多层次防御策略，包括架构层面和模型层面的防御，以保护免受不断演变的提示注入攻击。我们的工作为通过防御深度方法设计实用安全 web 代理提供了蓝图。
引用
@article{arxiv.2511.20597,
title = {BrowseSafe: Understanding and Preventing Prompt Injection Within AI Browser Agents},
author = {Kaiyuan Zhang and Mark Tenenholtz and Kyle Polley and Jerry Ma and Denis Yarats and Ninghui Li},
journal= {arXiv preprint arXiv:2511.20597},
year = {2025}
}