寒蝉效应：识别在线战略性反社会行为及其对记者的影响

在Twitter等社交平台上，战略性定向攻击日益普遍，尤其针对女性记者等弱势群体。识别在线战略性行为面临两大关键挑战：在线对话的复杂结构以及驱动用户行为的潜在策略的隐蔽性。为解决这些问题，我们开发了一种新的树结构Transformer模型，该模型根据回复的层级对话结构对其进行分类。大量实验表明，我们提出的分类模型能够有效检测不同的用户群体，即攻击者、支持者和旁观者，及其潜在策略。为展示我们方法的实用性，我们将此分类器应用于实时Twitter数据，并对记者与不同用户群体的互动进行了一系列定量分析。我们的分类方法不仅使我们能够探索攻击者的策略性行为，还能分析参与在线互动的支持者和旁观者的行为。在考察在线攻击的影响时，我们发现攻击者的互动与寒蝉效应之间存在强相关性，即记者倾向于减缓其后续发帖行为。本文更深入地揭示了不同用户群体如何参与在线讨论，并强调了攻击者存在对记者、其他用户及对话结果的负面影响。我们的发现强调了社交平台开发工具以应对协同毒性行为的必要性。通过早期检测协同攻击模式，平台可以限制有毒内容的可见性以防止事态升级。此外，为记者和用户提供实时举报工具，可以赋能他们更有效地管理恶意互动。