通过双重差分法调查大规模内容审核干预的异质性效应
计算机与社会
2025-07-02 v4 人机交互
摘要
在当今的在线环境中，用户每天都会遇到伤害和虐待。因此，内容审核对于确保他们的安全和福祉至关重要。然而，许多审核干预措施的有效性仍不确定。在此，我们应用因果推断方法，以阐明The Great Ban（Reddit上大规模社交媒体取消平台干预）的有效性。我们分析了近34K用户分享的5300万条评论，提供了关于该禁令预期和非预期后果的深入结果。我们的因果分析显示，15.6%的被审核用户放弃了平台，而其余用户将整体毒性降低了4.1%。尽管如此，一小部分用户表现出毒性行为强度和数量上的显著增加，尤其是在那些在干预后活动水平发生变化的用户中。然而，这些反应并未伴随更多的活动或参与，这表明即使是最具毒性的用户也保持了有限的总体影响。我们的发现揭示了关于取消平台审核干预有效性的新见解。此外，它们也有助于为未来的内容审核策略和法规提供信息。
引用
@article{arxiv.2411.04037,
title = {Investigating the heterogenous effects of a massive content moderation intervention via Difference-in-Differences},
author = {Lorenzo Cima and Benedetta Tessa and Stefano Cresci and Amaury Trujillo and Marco Avvenuti},
journal= {arXiv preprint arXiv:2411.04037},
year = {2025}
}
备注
arXiv admin note: text overlap with arXiv:2401.11254 This work is an extension of this conference paper: Cima, L., Trujillo, A., Avvenuti, M., & Cresci, S. (2024, May). The Great Ban: Efficacy and Unintended Consequences of a Massive Deplatforming Operation on Reddit. In Companion Publication of the 16th ACM Web Science Conference (pp. 85-93)