可信AI姿态(TAIP):面向水平和垂直规模的Agentic系统持续AI保证框架
计算机与社会
2026-03-05 v1
摘要
自主、高速Agentic AI系统的出现正在制造内部保证规模危机。点状、文件化审计无法跟上非确定性行为和跨快速演化环境中代理的分布式部署。危机具有双重规模:垂直上,治理和控制义务变化快于框架操作化速度;水平上,保证机制未能在复杂异构系统和证据来源上实现规模。风险导向监管现已要求组织表明持续的控制适当性和有效性,但现有的可信AI保证和审计框架仍然碎片化且主要依赖人工。drawing on the evolution of cybersecurity posture management,本文将可信度重新框定为持续生成的信号,而非静态证书。它贡献了:1)一种可信AI保证本体模型,描绘从监管义务到可验证证据的端到端路径;2)一种本体驱动的、证据加控的十三大领先框架基准,揭示姿态准备差距;3)可信AI姿态(TAIP)框架,将NIST AI RMF Test、Evaluate、Verify、Validate(TEVV)循环 operationalized为可重用AI保证对象。TAIP将政策内容('what')从执行语义('how')中解耦,实现跨司法管辖和Agentic系统的可组合、可自动化保证。来自异构工具的证据被规范化并递归聚合到主张、系统、组织和生态系统层次的姿态。案例研究将澳大利亚AI警戒线映射到Microsoft 365 Copilot,演示了主张分解、证据绑定和姿态计算。通过标准化执行而允许政策变体,TAIP实现可规模化、机器速度的信任信号生成。
引用
@article{arxiv.2603.03340,
title = {Trustworthy AI Posture (TAIP): A Framework for Continuous AI Assurance of Agentic Systems at Horizontal and Vertical scale},
author = {Guy Lupo and Bao Quoc Vo and Natania Locke},
journal= {arXiv preprint arXiv:2603.03340},
year = {2026}
}
备注
40 Pages, 13 Figures, 7 Tables,