形式方法遇见 LLM：面向高级 AI 系统的合规性审计、监控与干预
人机交互
2026-05-18 v1
摘要
我们检视 AI 治理的一个特定维度：如何在 AI 开发生命周期内（从部署前测试到部署后审计）监控和审计 AI 启用产品与服务。将形式方法原则与最新机器学习技术结合，我们提出技术，使 AI 启用产品与服务开发者，以及第三方 AI 开发者与评估者，可执行离线审计和在线 (runtime) 监控，以符合黑盒高级 AI 系统（尤其是 LLM）的产品特定（时序扩展）行为约束，如安全约束、规范、规则和法规。我们进一步提供预测监控的实用技术，如抽样方法，并引入干预监控器在运行时预防并潜在缓解预期违规。实验结果表明，通过利用线性时序逻辑 (LTL) 的形式语法和语义，我们提出的审计和监控技术在检测时序扩展行为约束违规方面优于 LLM baseline 方法；即使是小型模型标注者也能匹配或超越前沿 LLM 评判者。我们的预测性和干预性监控器显著降低了 LLM 基于代理的违规率，同时在保持任务性能方面作用有限。我们进一步通过受控实验表明，LLM 的时序推理在事件距离、约束数量和命题数量增加时表现出显著的精度下降。
引用
@article{arxiv.2605.16197,
title = {Position: AI as Part of Self -- Extending the Mind Requires Cognitive Co-Regulation},
author = {Alina Gutoreva and Fendi Tsim and Trisevgeni Papakonstantinou},
journal= {arXiv preprint arXiv:2605.16197},
year = {2026}
}