重新考虑推文：在推文创建时进行干预可减少攻击性内容
社会与信息网络
2021-12-03 v1
摘要
有害和攻击性内容的扩散是当今许多在线平台面临的问题。在线审核攻击性内容最常见的方法之一是在其发布后通过识别与删除来进行，并日益由机器学习算法辅助。最近，平台已开始采用试图在攻击性内容发布前进行干预的审核方法。在本文中，我们在 Twitter 上进行在线随机对照实验，评估一种新干预措施，其旨在鼓励参与者重新考虑其攻击性内容，并最终寻求减少平台上的攻击性内容数量。该干预向即将发布有害内容的用户提示暂停并重新考虑其推文的机会。我们发现，处理组中收到该干预提示的用户比对照组中未收到提示的用户少发布 6% 的攻击性推文。攻击性内容创建的减少不仅可归因于被提示推文的删除与修改——我们还观察到被提示用户未来创建的攻击性推文数量以及针对被提示推文的攻击性回复数量均有所下降。我们得出结论，允许用户重新考虑其评论的干预可成为减少在线攻击性内容的有效机制。
引用
@article{arxiv.2112.00773,
title = {Reconsidering Tweets: Intervening During Tweet Creation Decreases Offensive Content},
author = {Matthew Katsaros and Kathy Yang and Lauren Fratamico},
journal= {arXiv preprint arXiv:2112.00773},
year = {2021}
}
备注
Accepted at the International AAAI Conference on Web and Social Media (ICWSM 2022)