认知防火墙：通过混合边缘云防御保护浏览器基于AI的代理免受间接提示注入
密码学与安全
2026-03-26 v1 人工智能
摘要
将大型语言模型(LLM)部署为自主浏览器代理会暴露出显著的攻击面，形式为间接提示注入(IPI)。云基防御可提供强大的语义分析，但会引入延迟并引发隐私 concerns。我们提出认知防火墙，这是一个三阶段的split-compute架构，将安全检查分布在客户端和云端。该系统由本地视觉哨兵、云端深度计划程序和确定性守卫组成，后者在执行时强制执行策略。针对1000个对抗样本，仅边缘的防御未能检测86.9%的语义攻击。相比之下，完整的混合架构将整体攻击成功率(ASR)降至1%以下（静态评估下为0.88%，自适应评估下为0.67%），同时保持对副作用操作的确定性约束。通过在本地过滤呈现层攻击，系统可避免不必要的云端推理，并在云端基准中实现约17,000倍的延迟优势。这些结果表明，确定性执行边界的强制执行可补充概率语言模型，split-compute为 securing interactive LLM代理提供了实用的基础。
引用
@article{arxiv.2603.23791,
title = {The Cognitive Firewall:Securing Browser Based AI Agents Against Indirect Prompt Injection Via Hybrid Edge Cloud Defense},
author = {Qianlong Lan and Anuj Kaul},
journal= {arXiv preprint arXiv:2603.23791},
year = {2026}
}