用于 AI 政策评估的大规模干预模拟
计算机与社会
2026-05-28 v1 人工智能
摘要
随着 AI 系统的快速普及以及伤害的产生，推动全球 AI 治理努力，政策制定者和研究人员在在竞争的政策选项之间进行优先级排序变得越来越具挑战性。我们引入了一种方法，用于识别缓解指定 AI 伤害的可行政策选项，帮助政策制定者和研究人员聚焦于值得投入更多时间和资源的领域。该方法结合了政策的参与式评估、对实施成本的专家评估，以及基于 LLM 的对每项政策方案感知伤害缓解的评估。我们利用基于遗传算法的模拟研究来探索潜在政策组合的广阔解空间，检视在不同成本、参与式输入和伤害缓解权重下结果如何变化。我们发现，该方法使我们能够探索参与式和专家组件之间的不同平衡，使政策制定者和研究人员能够评估应为每项组件分配多少权重。我们认为，遗传算法找到的多样可行政策组合可作为讨论的有用起点。该方法将现有的参与式 AI 工作整合到实际的政策开发管道中。
引用
@article{arxiv.2605.27395,
title = {Informing AI Policy Assessment using Large-Scale Simulation of Interventions},
author = {Julia Barnett and Kimon Kieslich and Natali Helberger and Nicholas Diakopoulos},
journal= {arXiv preprint arXiv:2605.27395},
year = {2026}
}
备注
This work will be published in the proceedings of the ACM Conference on Fairness, Accountability, and Transparency (FAccT) 2026. 15 pages plus end matter and appendix