AI完整性:可验证AI治理的新范式
人工智能
2026-04-14 v1
摘要
AI系统日益影响着医疗、法律、国防和教育等领域的高风险决策,然而现有的治理范式——AI伦理、AI安全和AI对齐——共享一个共同的局限性:它们评估结果而非验证推理过程本身。本文引入了AI完整性这一概念,定义为AI系统的权威栈——其价值观、认识论标准、来源偏好和数据选择标准的分层体系——免受腐败、污染、操纵和偏见的影响,并以可验证的方式得以维持的状态。我们将AI完整性与现有的三种范式区分开来,将权威栈定义为一个四层级联模型(规范权威、认识权威、来源权威和数据权威),该模型基于成熟的学术框架——规范权威基于施瓦茨基本人类价值观,认识权威基于沃尔顿论证方案与GRADE/CEBM等级体系,来源权威基于来源可信度理论——描述了合法级联与权威污染之间的区别,并将完整性幻觉确定为对价值一致性的核心可测量威胁。我们进一步将PRISM(基于画像的推理完整性栈度量)框架指定为操作方法,定义了六个核心指标和一个分阶段的研究路线图。与规定哪些价值观是正确的规范性框架不同,AI完整性是一个程序性概念:它要求从证据到结论的路径是透明且可审计的,无论系统持有何种价值观。
引用
@article{arxiv.2604.11065,
title = {AI Integrity: A New Paradigm for Verifiable AI Governance},
author = {Seulki Lee},
journal= {arXiv preprint arXiv:2604.11065},
year = {2026}
}
备注
13 pages, 8 tables