预测向极端主义和恐怖主义的滑落

本文提出了一种自动分析和追踪在线收集材料中的言论，并检测言论作者是否可能卷入极端主义或恐怖主义的方法。所提出的系统包括：在线整理言论并将其编码为适合机器学习（ML）的形式，一个用于对编码文本进行分类的 ML 组件，一个追踪器，以及一个用于分析结果的可视化系统。检测和追踪概念使用从 wikiquote.org 获取的恐怖分子、极端分子、活动家和政治家的引言进行了测试。使用最先进的通用句子编码器（Cer et al. 2018）为每条引言提取了一组特征，该编码器生成 512 维向量。数据被用于训练和测试支持向量机（SVM）分类器，采用 10 折交叉验证。使用包含 839 条引言的数据集，该系统能够在 81% 的情况下正确检测与极端主义相关的意图和态度，在 97% 的情况下正确检测与恐怖主义相关的意图和态度。该准确率高于基于 n-gram 文本特征的简单基线系统所达到的准确率。追踪技术也被用于对数据进行时间分析，其中每条引言被视为对个人心理状态的含噪测量。结果表明，追踪算法能够检测随时间的变化趋势以及可归因于重大事件的态度急剧变化。