内容审核过程感知合法性的比较：承包商、算法、专家小组与数字陪审团
人机交互
2022-10-07 v2
摘要
尽管研究持续调查并改进大型社交媒体平台上内容审核过程的准确性、公平性与规范恰当性，但如果用户以其不合法为由拒绝其权威，即便最好的过程也无法生效。我们呈现一项调查实验，比较四种流行内容审核过程的感知制度合法性。我们进行了被试内实验，向美国Facebook用户展示审核决策，并随机描述这些决策是由付费承包商、算法、专家小组还是用户陪审团作出。先前工作表明，由于司法独立与民主代表的好处，陪审团将具有最高的感知合法性。然而，专家小组比算法或陪审团具有更高的感知合法性。此外，结果一致性——即与决策相符——在决定感知合法性方面比过程发挥了更大作用。这些结果表明将专家监督纳入内容审核有益，并强调任何过程都将面临源自结果分歧的合法性挑战。
引用
@article{arxiv.2202.06393,
title = {Comparing the Perceived Legitimacy of Content Moderation Processes: Contractors, Algorithms, Expert Panels, and Digital Juries},
author = {Christina A. Pan and Sahil Yakhmi and Tara P. Iyer and Evan Strasnick and Amy X. Zhang and Michael S. Bernstein},
journal= {arXiv preprint arXiv:2202.06393},
year = {2022}
}
备注
This paper will appear at CSCW 2022