理解激进思维：识别用于检测 Twitter 上极端主义内容的信号
社会与信息网络
2021-06-22 v1 计算与语言
计算机与社会
机器学习
机器学习
摘要
互联网，尤其是在线社交网络，改变了恐怖主义和极端主义团体影响并激进化个人的方式。近期报告显示，这些团体的运作模式首先是将广大受众暴露于在线极端主义材料，再将其迁移至较不开放的在线平台以进一步激进化。因此，识别在线激进内容对于限制极端主义叙事的传播与影响范围至关重要。本文中，我们的目标是识别可自动检测社交媒体中激进内容的度量。我们确定了若干信号，包括文本、心理与行为方面，它们共同允许对激进消息进行分类。我们的贡献有三方面：（1）我们分析极端主义团体发布的宣传材料，并创建基于上下文文本的激进内容模型；（2）我们基于这些材料构建推断的心理属性模型；（3）我们在 Twitter 上评估这些模型，以确定在多大程度上可自动识别在线激进推文。我们的结果表明，激进用户确实表现出可区分的文本、心理与行为属性。我们发现心理属性是最具区分度的特征之一。此外，结果表明使用向量嵌入特征的文本模型较 TF-IDF 特征显著改进检测。我们在两个实验中验证方法，取得高准确率。我们的发现可用作检测在线激进化活动的信号。
引用
@article{arxiv.1905.08067,
title = {Understanding the Radical Mind: Identifying Signals to Detect Extremist Content on Twitter},
author = {Mariam Nouh and Jason R. C. Nurse and Michael Goldsmith},
journal= {arXiv preprint arXiv:1905.08067},
year = {2021}
}