TRiSM for Agentic AI：基于大语言模型的智能体多智能体系统中信任、风险与安全管理的综述
人工智能
2025-12-19 v5
摘要
基于大语言模型（LLMs）并以多智能体配置部署的智能体 AI 系统，正在重新定义企业和社会领域中的智能、自主性、协作和决策。本综述对基于 LLM 的智能体多智能体系统（AMAS）中的信任、风险与安全管理（TRiSM）进行了结构化分析。我们首先审视智能体 AI 的概念基础，并突出其与传统 AI 智能体的架构差异。然后，我们针对智能体 AI 调整并扩展了 AI TRiSM 框架，围绕关键支柱展开：可解释性、ModelOps、安全性、隐私性及其生命周期治理，每个支柱均针对 AMAS 的挑战进行了情境化分析。我们提出了一种风险分类法，以捕捉智能体 AI 的独特威胁和漏洞，范围从协调失败到基于提示的对抗性操控。为了支持智能体 AI 工作中的实际评估，我们引入了两个新指标：组件协同得分（CSS），用于量化智能体间协作的质量，以及工具利用效能（TUE），用于评估智能体工作流中工具使用的效率。我们进一步讨论了提升智能体 AI 可解释性的策略，以及通过加密、对抗鲁棒性和法规遵从性增强安全性和隐私性的方法。本综述以一份负责任地开发和部署智能体 AI 的研究路线图结束，强调了使新兴系统与 TRiSM 原则保持一致的关键方向——确保其运行中的安全性、透明性和问责性。
引用
@article{arxiv.2506.04133,
title = {TRiSM for Agentic AI: A Review of Trust, Risk, and Security Management in LLM-based Agentic Multi-Agent Systems},
author = {Shaina Raza and Ranjan Sapkota and Manoj Karkee and Christos Emmanouilidis},
journal= {arXiv preprint arXiv:2506.04133},
year = {2025}
}