以有机且可规模化的方式软化网络极端观点

要求社交媒体平台采取更多措施来缓解极端网络社区的呼声日益高涨，这些社区的观点可能导致现实危害，例如增加 Covid-19 死亡率的误/虚假信息与不信任，现已延伸至猴痘、不安全的婴儿配方替代品、癌症、堕胎与气候变化；启发 2022 年布法罗枪手的白人替代论且可能启发他人；威胁选举的愤怒，例如 2021 年美国国会大厦袭击；鼓励虐待女性的男性至上观念；反犹太主义、反 LGBQT 仇恨与 QAnon 阴谋论。但“采取更多措施”应意味着做更多相同的事，还是不同的事？若是后者，是什么？本文首先展示为何平台做更多相同的事无法解决问题。具体而言，我们对近 1 亿名在疫苗及如今 Covid 等议题上纠缠的 Facebook 用户的分析表明，极端社区的生态对 Facebook 的移除干预具有隐藏的韧性；Facebook 的消息干预遗漏了关键受众群体并遭到嘲讽；这些网络极端叙事的一个关键部分被误标为不正确的科学；审查威胁正煽动在其他平台上创建具有潜在更广受众的平行存在。随后我们实证展示了一种新方案，可在不必审查或移除社区及其内容、不必核查或纠正事实、不必推广任何预防性消息、也不必寻求共识的情况下，有机地软化网络极端观点。该方案可跨社交媒体平台快速自动化规模化部署且成本极低。