AI Trust OS——企业环境中自主 AI 可观测性与零信任合规的持续治理框架
人工智能
2026-04-07 v1
摘要
大型语言模型、检索增强生成管道和多智能体 AI 工作流的加速采用造成了结构性治理危机。组织无法治理他们看不到的东西，而面向确定性 Web 应用构建的现有合规方法没有提供发现或持续验证跨工程团队涌现的 AI 系统的机制。结果是监管机构要求的 AI 治理成熟度证明与组织能够展示的之间存在日益扩大的信任差距。本文提出 AI Trust OS，一个用于持续自主 AI 可观测性和零信任合规的治理架构。AI Trust OS 将合规重新概念化为一个始终在线的、遥测驱动的操作层，AI 系统通过可观测性信号被发现，控制断言由自动化探针收集，信任工件被持续合成。该框架建立在四个原则之上：主动发现、遥测证据优于人工证明、持续状态优于时间点审计、架构支撑的证明优于策略文档信任。该框架通过零信任遥测边界运行，临时只读探针在不进入源代码或负载级 PII 的情况下验证结构元数据。AI 可观测性提取代理扫描 LangSmith 和 Datadog LLM 遥测，自动注册未记录的 AI 系统，并将治理从组织自报告转向经验机器观察。在 ISO 42001、EU AI Act、SOC 2、GDPR 和 HIPAA 上的评估表明，基于遥测的 AI 治理代表了企业信任产生和展示方式的范畴性架构转变。
引用
@article{arxiv.2604.04749,
title = {AI Trust OS -- A Continuous Governance Framework for Autonomous AI Observability and Zero-Trust Compliance in Enterprise Environments},
author = {Eranga Bandara and Asanga Gunaratna and Ross Gore and Abdul Rahman and Ravi Mukkamala and Sachin Shetty and Sachini Rajapakse and Isurunima Kularathna and Peter Foytik and Safdar H. Bouk and Xueping Liang and Amin Hass and Ng Wee Keong and Kasun De Zoysa},
journal= {arXiv preprint arXiv:2604.04749},
year = {2026}
}