迈向 AI 问责基础设施：AI 审计工具中的差距与机遇
计算机与社会
2025-03-03 v3
摘要
审计是识别已部署人工智能 (AI) 系统风险和局限性的关键机制。然而，有效执行 AI 审计仍然极其困难，从业者通常需要使用各种工具来支持其工作。基于对 35 位 AI 审计从业者的访谈和对 435 种工具的景观分析，我们将当前的 AI 审计工具生态系统与从业者需求进行了比较。虽然许多工具旨在帮助设定标准和评估 AI 系统，但它们往往在支持问责方面不足。我们概述了从业者在使用 AI 审计工具时面临的挑战，并强调了评估之外的未来工具开发领域——从危害发现到倡导。我们得出结论，现有资源目前尚不支持 AI 审计从业者需求的全部范围，并建议该领域超越仅用于评估的工具，转向更全面的 AI 问责基础设施。
引用
@article{arxiv.2402.17861,
title = {Towards AI Accountability Infrastructure: Gaps and Opportunities in AI Audit Tooling},
author = {Victor Ojewale and Ryan Steed and Briana Vecchione and Abeba Birhane and Inioluwa Deborah Raji},
journal= {arXiv preprint arXiv:2402.17861},
year = {2025}
}
备注
Ojewale, V., Steed, R., Vecchione, B., Birhane, A., & Raji, I. D. (2025). Towards AI Accountability Infrastructure: Gaps and Opportunities in AI Audit Tooling. In CHI Conference on Human Factors in Computing Systems (CHI '25), April 26--May 01, 2025, Yokohama, Japan. ACM, New York, NY, USA, 29 pages