面向操作关键领域的可信 agentic AI 系统的度量学依据工程框架——TRACE

Serhii Zabolotnii

面向操作关键领域的可信 agentic AI 系统的度量学依据工程框架——TRACE

计算与语言 2026-05-06 v1 人工智能人机交互

作者: Serhii Zabolotnii

摘要

我们介绍 TRACE，一个面向可信 agentic AI 在操作关键领域的跨域工程框架。TRACE 将四层参考架构与明确的经典机器学习与大语言模型验证器划分（L2a/L2b）、无状态编排与升级策略（L3）以及受限人类监督（L4）相结合；一个映射至 GUM/VIM/ISO 17025 的度量学依据可信度指标套件；以及通过计算简约比（CPR）量化的模型简约原则。三个实例——临床决策支持、工业多域操作以及司法 AI 助手——将相同的架构和指标在主要不同治理语境中实现迁移。L2a/L2b 划分将大语言模型的使用确立为一种明确的设计决策而非架构默认选项，通过 CPR 实现简约度量化。TRACE 将 CPR 引入可信 AI 工程中的一级设计原则。

关键词

可信 AI agentic AI 工程框架度量学模型简约

引用

@article{arxiv.2605.03838,
  title  = {TRACE: A Metrologically-Grounded Engineering Framework for Trustworthy Agentic AI Systems in Operationally Critical Domains},
  author = {Serhii Zabolotnii},
  journal= {arXiv preprint arXiv:2605.03838},
  year   = {2026}
}

备注

11 pages, 2 figures

面向操作关键领域的可信 agentic AI 系统的度量学依据工程框架——TRACE

摘要

关键词

引用

备注

相关论文