自动化内容审核提高了对社区准则的遵守度
计算机与社会
2023-02-17 v3
摘要
在线社交媒体平台使用自动化审核系统来移除或降低违规内容的可见性。尽管先前的研究已记录了人工内容审核的重要性，但自动化内容审核的影响在很大程度上仍属未知。在此，在一项针对 Facebook 评论的大型研究（n=412M）中，我们使用模糊回归断点设计来衡量自动化内容审核对后续违规行为（被隐藏/删除的评论数量）和参与度（发布的额外评论数量）的影响。我们发现，在较短的评论串（20 条或更少评论）中，评论删除减少了后续的违规行为，即便在其他参与者中也是如此，这表明该干预阻止了对话偏离主题。此外，删除对被影响用户后续违规行为的影响比其总体上减少评论行为的影响更为持久，这表明用户被威慑而不违规，但并未被威慑而不评论。相比之下，隐藏（而非删除）内容的效果很小且在统计上不显著。我们的结果表明，自动化内容审核提高了对社区准则的遵守度。
引用
@article{arxiv.2210.10454,
title = {Automated Content Moderation Increases Adherence to Community Guidelines},
author = {Manoel Horta Ribeiro and Justin Cheng and Robert West},
journal= {arXiv preprint arXiv:2210.10454},
year = {2023}
}
备注
Accepted at TheWebConf 2023, please cite accordingly