基于跨领域迁移的大规模仇恨言论检测

仇恨言论检测模型的性能依赖于模型训练所用的数据集。现有数据集大多包含有限数量的实例或定义仇恨主题的仇恨领域。这阻碍了针对仇恨领域的大规模分析和迁移学习。在本研究中，我们构建了用于英语和一种低资源语言（土耳其语）仇恨言论检测的大规模推文数据集，每种语言包含10万条人工标注的推文。我们的数据集被设计为在五个领域上均匀分布推文数量。统计检验支持的实验结果表明，基于Transformer的语言模型在大规模仇恨言论检测中，英语任务上比传统的词袋模型和神经模型至少高出5%，土耳其语任务上至少高出10%。该性能还可扩展到不同的训练规模，例如，当使用20%的训练实例时，英语任务可恢复98%的性能，土耳其语任务可恢复97%的性能。我们进一步检验了仇恨领域间跨领域迁移的泛化能力。我们表明，对于英语，目标领域的平均性能有96%可由其他领域恢复；对于土耳其语，这一比例为92%。性别和宗教领域在泛化到其他领域方面更为成功，而体育领域则最不成功。