Facebook的架构削弱了疫苗错误信息移除努力
社会与信息网络
2022-08-12 v2 计算机与社会
系统与控制
系统与控制
摘要
错误信息助长对科学的不信任、破坏公共卫生，并可能引发社会动荡。尤其是疫苗错误信息阻碍了克服COVID-19大流行的努力，促使社交媒体平台尝试减少此类信息。有人质疑“软性”内容审核补救手段（例如标记与降权错误信息）是否成功，并建议有必要增加“硬性”内容补救手段（例如取消平台资格与内容禁令）。因此我们考察了Facebook的疫苗错误信息内容移除政策是否有效。本文表明，Facebook的政策减少了反疫苗帖子的数量，但也造成了若干反常效应：亲疫苗内容同样被移除，剩余反疫苗内容的互动量反复恢复至政策前水平，且这些内容变得更具误导性、更政治极化，并更可能出现在用户的新闻推送中。我们将这些结果解释为Facebook设计目标——促进社群形成——的非预期后果。致力于拒绝疫苗社群的成员似乎从多个来源搜寻错误信息。社群管理员利用Facebook平台提供的若干渠道传播错误信息。我们的发现表明，在管理在线内容传播时，需要解决社交媒体平台架构如何促成围绕误导性话题的社群形成与动员。
引用
@article{arxiv.2202.02172,
title = {Facebook's Architecture Undermines Vaccine Misinformation Removal Efforts},
author = {David A. Broniatowski and Jiayan Gu and Amelia M. Jamison and Joseph R. Simons and Lorien C. Abroms},
journal= {arXiv preprint arXiv:2202.02172},
year = {2022}
}