建模线上社交网络中毒性的传播与探索其缓解策略
社会与信息网络
2025-11-26 v1
摘要
线上平台上的仇恨言语已可信地关联到多个现实世界暴力事件。这迫切需要理解有毒内容如何在线上社交网络中传播，以及如何加以缓解，因而成为近期大量研究的焦点。以往的研究主要通过流行病或扩散激活模型来建模仇恨，用户往往被划分为两类：仇恨或非仇恨。在本工作中，我们将用户视为有毒内容的转换者，基于其对输入有毒内容的反应方式进行建模。相较于输入的有毒内容，用户会放大、削弱或复制(实际上，转换)有毒内容并将其向前传递。我们对推特、Koo 和 Gab 上的有毒内容进行了时间序列分析，发现：(a) 有毒内容在网络中不被守恒；(b) 只有一部分用户随时间变化；(c) 行为变化的用户之间不存在同温层现象。在我们的模型中，每个用户通过对输入有毒内容施加一个“偏移量”来进行转换。基于此，我们发展了一种纳入用户时间变化行为的有毒传播网络模型。我们发现，用户施加的“偏移量”取决于输入有毒内容及其类别。基于此发现，我们提出一种减少有毒内容的干预策略。该策略通过部署和平机器人(PEACE-BOT)来实现。通过在真实网络和合成网络上的实验，我们表明和平机器人干预可以减少有毒内容，尽管其效果取决于网络结构和部署策略。
引用
@article{arxiv.2511.20546,
title = {Modelling the Spread of Toxicity and Exploring its Mitigation on Online Social Networks},
author = {Aatman Vaidya and Harsh Bhagat and Seema Nagar and Amit A. Nanavati},
journal= {arXiv preprint arXiv:2511.20546},
year = {2025}
}