面向智能体 AI 的 MI9：首个集成运行时治理框架
人工智能
2025-11-19 v4 新兴技术
多智能体系统
摘要
具备推理、规划和执行动作能力的智能体 AI 系统，与传统 AI 模型呈现出根本不同的治理挑战。不同于传统 AI，这些系统在运行时会表现出涌现且意想不到的行为，引入了无法通过部署前治理完全预期的新型智能体相关风险。为此，我们引入 MI9，这是首个为智能体 AI 系统在安全和对齐方面设计的完全集成运行时治理框架。MI9 通过六个集成组件实现实时控制：代理风险指数、智能体语义遥测捕获、持续授权监控、基于有限状态机（FSM）的符合性引擎、目标条件漂移检测以及分级约束策略。跨异构智能体架构透明运行，MI9 实现了在生产环境中对智能体系统的系统性、安全且负责任的部署，其中传统治理方法不具备满足要求，为大规模安全智能体 AI 部署提供了基础设施。通过多样化情景的详细分析，表明 MI9 系统性地覆盖了现有方法未能应对的治理挑战，奠定了全面智能体 AI 监督的技术基础。
引用
@article{arxiv.2508.03858,
title = {MI9: An Integrated Runtime Governance Framework for Agentic AI},
author = {Charles L. Wang and Trisha Singhal and Ameya Kelkar and Jason Tuo},
journal= {arXiv preprint arXiv:2508.03858},
year = {2025}
}