保护 Agentic AI：面向网络监控 Agentic AI 系统的威胁建模与风险分析
密码学与安全
2025-08-15 v1 人工智能
摘要
将大型语言模型（LLM）与自主智能体结合用于网络监控和决策系统，将导致严重的安全问题。本研究采用由七层构成的 MAESTRO 威胁建模框架，揭示、评估和消除 Agentic AI 系统中的漏洞。构建并实现了原型智能体系统，采用 Python、LangChain 和 WebSockets 中的遥测技术，部署了推理、记忆、参数调优和异常检测模块。确认了两个实际威胁案例：(i) 通过流量回放导致资源耗尽的拒绝服务攻击，以及 (ii) 通过篡改智能体维护的历史日志文件导致的记忆中毒。这些情况导致可测量的性能下降，即遥测更新延迟，计算负载增加，因系统适应性差。建议采用多层防御防御链方法，结合记忆隔离、规划程序验证和实时异常响应系统。这些发现证明 MAESTRO 在操作威胁映射、前瞻性风险评分以及韧性系统设计方面是可行的。作者强调在对抗环境中执行记忆完整性、关注适应逻辑监控以及跨层通信保护的重要性，这些措施保证了 Agentic AI 的可靠性。
关键词
引用
@article{arxiv.2508.10043,
title = {Securing Agentic AI: Threat Modeling and Risk Analysis for Network Monitoring Agentic AI System},
author = {Pallavi Zambare and Venkata Nikhil Thanikella and Ying Liu},
journal= {arXiv preprint arXiv:2508.10043},
year = {2025}
}
备注
Submitted and under review in IEEE Transactions on Privacy