利用宗教、意识形态与仇恨等语境维度建模社交媒体上的伊斯兰极端主义传播

恐怖袭击在一定程度上与网络极端主义内容相关。尽管有数以万计的伊斯兰极端主义支持者消费此类内容，但相对于和平的穆斯林而言他们只是很小的一部分。在社交媒体平台上遏制不断演变的极端主义的努力一直不足且大多无效。极端主义与主流语境的差异给机器解读带来挑战，尤其威胁到分类算法的精度。我们提出的语境感知计算方法用于分析 Twitter 上的极端主义内容，将这一说服过程拆解为若干基本构件，这些构件承认可能挑战人工与自动分类的固有模糊性与稀疏性。我们使用三个语境维度——宗教、意识形态与仇恨——的组合来建模该过程，每个维度阐明一定程度的激进化并突出独立特征以使其在计算上可处理。我们为这些语境维度分别利用领域特定知识资源，如宗教维度的《古兰经》、政治意识形态维度的极端主义思想家与传教士著作，以及仇恨维度的社交媒体仇恨言论语料库。我们的研究对可靠分析作出三方面贡献：(i) 开发一种植根于宗教、意识形态与仇恨语境维度、反映网络伊斯兰极端主义团体所采用策略的计算方法；(ii) 针对这些维度对相关推文数据集进行深度分析以排除可能被误标注的用户；(iii) 一个将网络激进化理解为一种过程以辅助反制规划的框架。鉴于潜在的重要社会影响，我们评估了算法性能以最小化误标注，我们的方法在精度上比竞争性基线高出 10.2%。