外部监督:为 AI 治理设计第三方审计生态系统
计算机与社会
2022-06-13 v1
摘要
大量关注集中于算法审计与影响评估,以追究算法系统开发者与用户的责任。但现有算法问责政策路径忽视了来自非算法领域的经验:尤其是允许第三方有效参与的干预措施之重要性。本文综合其他领域关于如何打造算法部署有效外部监督体系的经验。首先,我们讨论当前 AI 格局下第三方监督的挑战。其次,我们考察跨域审计体系——如金融、环境与卫生监管——并指出此类审计的制度设计远非单一模式。最后,我们梳理围绕这些设计要素的证据基础,并阐明其对算法审计的启示。我们得出结论:仅转向审计不大可能实现真正的算法问责,而需持续关注制度设计以促成有意义的第三方参与。
引用
@article{arxiv.2206.04737,
title = {Outsider Oversight: Designing a Third Party Audit Ecosystem for AI Governance},
author = {Inioluwa Deborah Raji and Peggy Xu and Colleen Honigsberg and Daniel E. Ho},
journal= {arXiv preprint arXiv:2206.04737},
year = {2022}
}
备注
Presented at 5th Annual ACM/AAAI AI Ethics and Society (AIES) conference