AI 中的问责制：从原则到行业特定认证
计算机与社会
2021-10-19 v1 人工智能
摘要
近期的 AI 相关丑闻使 AI 问责制成为焦点，引发了公众日益增加的关注与担忧。本文借鉴公共政策与治理领域的文献，做出了两项贡献。首先，我们提出了一个 AI 问责生态系统，将其作为审视该系统的有益视角，其中不同的利益相关者需要并贡献于特定的问责机制。我们认为当前的生态系统是不平衡的，需要通过 AI 可解释性来提升透明度，并通过充分的文档记录与流程形式化来支持内部审计，最终导向外部认证过程。其次，我们使用博彩行业的案例研究，以在整个生态系统的子集中说明行业特定问责原则与流程的必要性。我们定义并批判性评估了博彩行业中关键问责原则的实施情况，即解决算法偏见和模型可解释性，随后得出结论并基于我们的发现讨论了未来工作的方向。关键词：问责制、可解释 AI、算法偏见、监管。
引用
@article{arxiv.2110.09232,
title = {Accountability in AI: From Principles to Industry-specific Accreditation},
author = {Chris Percy and Simo Dragicevic and Sanjoy Sarkar and Artur S. d'Avila Garcez},
journal= {arXiv preprint arXiv:2110.09232},
year = {2021}
}
备注
24 pages, 2 figures, 2 tables