中文

面向AI中介公共咨询的参与式来源审计

人工智能 2026-04-23 v1 人机交互

摘要

人工智能正日益被部署用于综合大规模公共输入以进行政策咨询和参与式进程。然而,尚无正式框架用于审计这些摘要是否忠实地代表源头人群,这一监督空白未被现有的AI可解释性、 grounding 与幻觉检测方法所覆盖,因为这些方法关注的是输出质量而非输入忠诚度。本文引入参与式来源(participatory provenance)概念:一种基于最优传输理论、因果推断和语义分析的测量框架,用于追踪个别公共提交项在AI中介摘要过程中如何被转化、过滤或丢弃。应用于加拿大2025-2026年国家AI战略咨询(n=5,253名respondents,覆盖两个独立政策主题),该框架揭示官方政府摘要表现不佳于随机参与者基线(-9.1% 和 -8.0% 覆盖衰减),其中 16.9% 和 15.3% 的参与者实际被排除。排除集中在表达不同意见、怀疑和批评AI的群体(33%-88% 排除率)。简洁性、语义孤立和修辞注册独立预测了代表性结果。附带的开源交互式工具——Co-creation Provenance Lab——使政策制定者能够审计并迭代改进摘要,在规模化的公共参与中建立真正的人机协同监督。

关键词

引用

@article{arxiv.2604.20711,
  title  = {Participatory provenance as representational auditing for AI-mediated public consultation},
  author = {Sachit Mahajan},
  journal= {arXiv preprint arXiv:2604.20711},
  year   = {2026}
}