通过潜在多面体量化 MCP 中的对话漂移
摘要
模型上下文协议 (MCP) 通过整合外部工具增强大语言模型 (LLM)，使其能够动态聚合实时数据以 improve task execution。然而，其非隔离的执行上下文引入了 critical security and privacy risks。特别是，来自对手的 content 可能诱导 tool poisoning 或间接 prompt injection， leading to conversation hijacking, misinformation propagation, 或 data exfiltration. 现有防御措施，如基于规则的过滤器或 LLM-driven 检测，由于依赖静态签名、计算低效以及无法量化对话劫持，已不足。为克服这些限制，我们提出了 SecMCP，一个 secure framework，用于检测和量化由对手外部 knowledge 诱导的潜在空间轨迹偏移 (conversation drift)。通过将 LLM 激活向量建模为潜在多面体空间，SecMCP 识别对话动态的异常性偏移， enable proactive detection of hijacking, misleading, 和 data exfiltration。我们在三个 state-of-the-art LLMs (Llama3, Vicuna, Mistral) 上评估了 SecMCP，覆盖 benchmark 数据集 (MS MARCO, HotpotQA, FinQA)， demonstrate robust detection with AUROC 得分超过 0.915，同时 maintain system usability。我们的贡献包括对 MCP security threats 的系统性分类、一种 novel latent polytope-based methodology for quantifying conversation drift，以及 SecMCP 有效性的实证验证。
引用
@article{arxiv.2508.06418,
title = {Quantifying Conversation Drift in MCP via Latent Polytope},
author = {Haoran Shi and Hongwei Yao and Shuo Shao and Shaopeng Jiao and Ziqi Peng and Zhan Qin and Cong Wang},
journal= {arXiv preprint arXiv:2508.06418},
year = {2025}
}