中文

外部监督:为 AI 治理设计第三方审计生态系统

计算机与社会 2022-06-13 v1

摘要

大量关注集中于算法审计与影响评估,以追究算法系统开发者与用户的责任。但现有算法问责政策路径忽视了来自非算法领域的经验:尤其是允许第三方有效参与的干预措施之重要性。本文综合其他领域关于如何打造算法部署有效外部监督体系的经验。首先,我们讨论当前 AI 格局下第三方监督的挑战。其次,我们考察跨域审计体系——如金融、环境与卫生监管——并指出此类审计的制度设计远非单一模式。最后,我们梳理围绕这些设计要素的证据基础,并阐明其对算法审计的启示。我们得出结论:仅转向审计不大可能实现真正的算法问责,而需持续关注制度设计以促成有意义的第三方参与。

关键词

引用

@article{arxiv.2206.04737,
  title  = {Outsider Oversight: Designing a Third Party Audit Ecosystem for AI Governance},
  author = {Inioluwa Deborah Raji and Peggy Xu and Colleen Honigsberg and Daniel E. Ho},
  journal= {arXiv preprint arXiv:2206.04737},
  year   = {2022}
}

备注

Presented at 5th Annual ACM/AAAI AI Ethics and Society (AIES) conference