使用 BERT 监测极端社交媒体中反犹主义话语的演化

种族主义和偏见在社交媒体上的表现会造成有害的线上环境，可能波及到线下，激化仇恨，最终导致身体暴力。这一现象在线上反犹主义问题中屡见不鲜。追踪在线讨论中反犹主义主题及其相关术语的时间演变，能够帮助监测参与者的情绪状态及其演变，并可能为干预提供途径，从而防止仇恨的升级。由于在线流量的庞大和持续演变，手动监控对话在实际操作中不可行。因此，我们提出了一种自动化方法，通过从极端社交媒体中提取反犹主义主题和术语，并捕捉其时间演变。由于监督学习在该任务上受限，我们构建了一种基于大语言模型的无监督在线机器学习方法，用于评估帖子之间的语境相似性。该方法将相似的帖子聚类在一起，随着时间推移，当子主题从现有主题中涌现或新主题出现时，方法会继续划分并创建新的聚类。从每个聚类中的帖子中提取该主题所使用的反犹主义术语。我们的实验表明，该方法的性能优于现有的基线方法，并展示了其在反犹主义话语中发现的主题及其关联术语的类型。我们相信，这种方法对于监控社交平台上各种仇恨的演变具有重要价值。