日常算法审计：理解普通用户在揭示有害算法行为中的力量
人机交互
2021-08-26 v2 计算机与社会
摘要
越来越多的文献提出了对算法系统进行偏见与有害行为的正式审计方法。尽管正式审计方法影响深远，但它们常存在重大盲区，关键问题往往仅在系统部署后日常使用情境下才浮现。近年来出现了许多案例，普通算法系统用户在其与这些系统的日常交互中检测并提高了对所遇有害行为的认知。然而，迄今为止学术界对这些自下而上、由用户驱动的审计过程关注甚少。本文提出并探讨了日常算法审计的概念，即用户通过日常与算法系统的交互来检测、理解并质询有问题的机器行为的过程。我们认为，无论用户是否了解底层算法，普通用户在揭示那些可能逃脱更集中式审计形式的问题机器行为方面具有强大力量。我们分析了若干日常算法审计的真实案例，从中汲取对设计促进此类审计行为的未来平台与工具的教训。最后，我们讨论了为弥合正式审计方法与算法系统日常使用中自发涌现的审计行为之间差距而待开展的工作。
引用
@article{arxiv.2105.02980,
title = {Everyday algorithm auditing: Understanding the power of everyday users in surfacing harmful algorithmic behaviors},
author = {Hong Shen and Alicia DeVos and Motahhare Eslami and Kenneth Holstein},
journal= {arXiv preprint arXiv:2105.02980},
year = {2021}
}
备注
To appear in CSCW 2021. The co-first authors and co-senior authors each contributed equally to this work