面向合规性的构造性论证图:使用生成式 AI 产出证据链接的正式论证以实现认证级问责
人工智能
2026-04-07 v1
摘要
高风险决策系统越来越需要结构化的论证、可追溯性和可审计性,以确保问责和合规。正式论证在安全关键系统认证中常用,提供了对论点、推理和证据进行结构化组织的机制,以便验证。同时,生成式人工智能系统越来越多地集成到决策支持工作流程中,协助撰写解释、总结证据和生成建议。然而,当前部署常依赖于松�约束的语言模型,引入了幻觉推理、不支持的论点以及弱可追溯性等风险。本文提出一种以构造性合规性为导向的体系结构,将生成式人工智能 (GenAI) 与结构化形式论证表示相结合。该方法将每个 AI 辅助步骤视为必须由可验证证据支持、并通过显式推理约束验证的论点,才能成为官方决策记录的一部分。该体系结构由四个组件构成:i) 受保证案方法启发的类型化论证图表示,ii) 基于检索增强生成 (RAG) 的论证片段生成,使其以权威证据为依据,iii) 推理与验证内核,强制完成性和可采纳性约束,iv) 符合 W3C PROV 标准的源头信息账本,以支持可审计性。我们提出系统设计和基于可执行不变量和实例化案例的评估策略。分析表明,确定性验证规则可防止不支持的论点进入决策记录,同时允许 GenAI 加速论证构建。
引用
@article{arxiv.2604.04103,
title = {Compliance-by-Construction Argument Graphs: Using Generative AI to Produce Evidence-Linked Formal Arguments for Certification-Grade Accountability},
author = {Mahyar T. Moghaddam},
journal= {arXiv preprint arXiv:2604.04103},
year = {2026}
}
备注
Accepted at FACCT 2026, IoT CPS Week