更严格内容审核对 Parler 用户话语的影响

社交媒体平台采用各种内容审核技术来移除有害、攻击性和仇恨言论内容。不同平台之间的审核尺度各异，即便在同一平台，也可能随时间演变。例如，在保守派用户中流行的边缘社交媒体平台 Parler，以最宽松的审核政策著称，声称为其用户提供开放的讨论空间。然而，在将 2021 年美国国会大厦骚乱与 Parler 上某些群体（如 QAnon 和 Proud Boys）的活动联系起来后，2021 年 1 月 12 日，Parler 被从 Apple 和 Google 应用商店下架，并被 Amazon Cloud 托管服务暂停。Parler 必须修改其审核政策才能重返这些在线商店。在停服一个月后，Parler 以一套新的用户指南重新上线，反映出更严格的内容审核，尤其是关于\emph{仇恨言论}政策。在本文中，我们研究了 Parler 实施的审核变更及其对其内容毒性的影响。我们收集了一个大型纵向 Parler 数据集，包含 2021 年 2 月至 2022 年 1 月（其重返互联网和应用商店后）来自 432K 活跃用户的 17M 条 parleys。据我们所知，这是首项使用数据驱动方法研究内容审核技术有效性的研究，也是 Parler 短暂中断后的首个数据集。我们的准实验时间序列分析表明，在 Parler 审核变更后，严重形式的毒性（阈值高于 0.5）立即下降并得以维持。相比之下，较轻程度的威胁和侮辱（阈值介于 0.5-0.7）的趋势未发生变化。最后，我们发现所分享新闻网站的事实准确性有所提高，且所分享的阴谋论或伪科学来源数量减少。