中文

责任捕获:如何通过记录以支持 AI 透明度和问责制度(重新)塑造算法监督

计算机与社会 2025-10-07 v1 人工智能

摘要

责任制度通常鼓励记录保存,以实现支持监督、调查、争议和赔偿的透明度。然而,实施此类记录保存可能引入考虑因素、风险和后果,而这些因素迄今仍未充分探讨。本文考察记录保存实践如何将算法系统纳入责任制度,从而为观察和理解其效果提供了依据。为此,我们提出、描述并详述“责任捕获”——即针对算法责任的记录保存所导致的社会技术过程的重新配置及其相关的后续影响。通过对100名实践者的调查,我们证据并刻画了记录保存实践中的问题,识别出其与责任捕获的一致性。我们进一步记录了广泛的记录保存实践、内部与外部责任要求之间的紧张关系,以及员工对通过责任捕获实施的做法抵抗的证据。我们讨论了这些及其他对监视、隐私和数据保护的影响,凸显了面向算法责任社区的考虑因素。总之,我们表明,实施记录保存以支持算法责任制度中的透明度本身可能带来更广泛的影响——这是一个需要实践者、研究者和政策制定者更加关注的问题。

关键词

引用

@article{arxiv.2510.04609,
  title  = {Accountability Capture: How Record-Keeping to Support AI Transparency and Accountability (Re)shapes Algorithmic Oversight},
  author = {Shreya Chappidi and Jennifer Cobbe and Chris Norval and Anjali Mazumder and Jatinder Singh},
  journal= {arXiv preprint arXiv:2510.04609},
  year   = {2025}
}

备注

To appear at 8th AAAI/ACM Conference on AI, Ethics, and Society (AIES 2025)