用户驱动算法审计中的参与与劳动分工：日常用户如何协作揭示算法危害？
人机交互
2023-04-06 v1
摘要
近年来出现了一种有趣的现象：用户聚集在一起，审视他们在日常生活中遭遇的潜在有害算法行为。研究者已开始对这些用户驱动的审计建立理论与经验性理解，期望借助用户之力检测有害的机器行为。然而，关于这些审计中的用户参与及其劳动分工却鲜有认知，而这对未来支撑此类集体努力至关重要。通过收集并分析来自四起近期用户驱动审计案例的 17,984 条推文，我们揭示了用户参与和投入的模式，尤其涉及各案例中的核心贡献者。我们还辨识出用户生成内容在这些审计中所扮演的多种角色，包括提出假设、数据收集、放大传播、语境化与升级上报。我们探讨了设计工具以支撑用户驱动审计及那些为提升算法偏见意识而付出劳动的用户之启示。
引用
@article{arxiv.2304.02134,
title = {Participation and Division of Labor in User-Driven Algorithm Audits: How Do Everyday Users Work together to Surface Algorithmic Harms?},
author = {Rena Li and Sara Kingsley and Chelsea Fan and Proteeti Sinha and Nora Wai and Jaimie Lee and Hong Shen and Motahhare Eslami and Jason Hong},
journal= {arXiv preprint arXiv:2304.02134},
year = {2023}
}