受赏金所缚：协同塑造针对酷儿 AI 危害的评估流程
计算机与社会
2023-07-26 v2 人工智能
摘要
偏见评估基准以及数据集与模型文档已成为评估人工智能（AI）系统偏见与危害的核心流程。然而，这些审计流程因未能整合边缘化社区的知识并考量审计者与社区之间的权力动态而受到批评。因此，已有学者提出让受影响社区参与识别和评估 AI 系统危害的偏见评估模式（例如偏见赏金）。即便如此，关于边缘化社区希望从此类审计流程中获得什么却被忽视了。在本文中，我们询问酷儿社区对审计流程的立场与诉求。为此，我们组织了一场参与式工作坊，从酷儿视角批判并重新设计偏见赏金。我们发现，当获得空间时，工作坊参与者的反馈范围远远超出偏见赏金所能涵盖的范畴，参与者质疑赏金的所有权、激励措施与效能。我们最后倡导社区对赏金的所有权，并以参与式流程（例如共同创作）对赏金加以补充。
引用
@article{arxiv.2307.10223,
title = {Bound by the Bounty: Collaboratively Shaping Evaluation Processes for Queer AI Harms},
author = {Organizers of QueerInAI and Nathan Dennler and Anaelia Ovalle and Ashwin Singh and Luca Soldaini and Arjun Subramonian and Huy Tu and William Agnew and Avijit Ghosh and Kyra Yee and Irene Font Peradejordi and Zeerak Talat and Mayra Russo and Jess de Jesus de Pinho Pinhal},
journal= {arXiv preprint arXiv:2307.10223},
year = {2023}
}
备注
To appear at AIES 2023