众包影响：探索利用人群预见算法决策的社会影响
计算机与社会
2022-07-21 v1
摘要
随着算法在工业与政府部门日益普及，越来越多研究致力于理解其社会影响与伦理意涵。在算法开发的不同阶段已采用多种方法，以鼓励研究者和设计者考量其研究的潜在社会影响。这一领域中一个未被充分研究但颇有前景的方向是利用参与式预见来预见这些不同的社会影响。我们采用众包作为一种参与式预见手段，基于一组政府算法决策工具揭示出四类不同的影响领域：(1) 感知效价，(2) 社会域，(3) 具体抽象影响类型，以及 (4) 算法伦理关切。我们的发现表明，该方法能有效利用人群的认知多样性来揭示一系列问题。我们进一步分析了所识别影响领域间交互的复杂性，以展示众包如何能够阐明影响间关联的模式。最终，本工作确立众包为一种预见算法影响的有效手段，其通过利用参与式预见与认知多样性，补充了其他评估社会中算法的方法。
引用
@article{arxiv.2207.09525,
title = {Crowdsourcing Impacts: Exploring the Utility of Crowds for Anticipating Societal Impacts of Algorithmic Decision Making},
author = {Julia Barnett and Nicholas Diakopoulos},
journal= {arXiv preprint arXiv:2207.09525},
year = {2022}
}
备注
10 pages, 2 figures. Proceedings of the 2022 AAAI/ACM Conference on AI, Ethics, and Society (August 2022)