面向 GenAI 多主体系统防御工具倾轧：基于零信任注册表的方案
密码学与安全
2025-04-29 v1 人工智能
摘要
生成式 AI (GenAI) 多主体系统(MAS)的兴起迫切需要标准化协议以使主体能够发现和交互外部工具。然而，这些协议引入了新的安全挑战，特别是工具倾轧(tool squatting)——工具的 deceptive 注册或表示。本文分析了工具倾轧威胁在新兴互操作性标准(如 Model Context Protocol(MCP) 或主体间无缝通信协议)中的情形。它引入一个综合 Tool Registry 系统以缓解这些风险。我们提出一个以 security 为焦点的体系结构，包括 admin 控制注册、集中式工具发现、通过专用 Agent 和 Tool Registry 服务强制执行细粒度访问策略、基于工具版本和已知漏洞的动态信任评分机制，以及即时凭证 provisioning。基于其设计原则，该提出的注册表框架旨在有效防止常见工具倾轧向量，同时保持多主体系统的灵活性和强大功能。本工作解决了快速演化 GenAI 生态系统中的关键安全差距，为生产环境中的安全工具集成提供了基础。
关键词
引用
@article{arxiv.2504.19951,
title = {Securing GenAI Multi-Agent Systems Against Tool Squatting: A Zero Trust Registry-Based Approach},
author = {Vineeth Sai Narajala and Ken Huang and Idan Habler},
journal= {arXiv preprint arXiv:2504.19951},
year = {2025}
}
备注
12 pages, 4 figures, 1 table