基于 BERT 的迁移学习方法用于在线社交媒体中的仇恨言论检测

社交媒体中一部分用户生成的仇恨性和毒性内容是一种日益增长的现象，促使研究者投入大量努力于仇恨内容识别这一具有挑战性的方向。我们不仅需要基于先进机器学习和自然语言处理的高效自动仇恨言论检测模型，还需要足够大量的标注数据来训练模型。缺乏充足的标注仇恨言论数据以及存在的偏差，一直是该研究领域的主要问题。为满足这些需求，在本研究中我们引入了一种基于现有预训练语言模型 BERT（Bidirectional Encoder Representations from Transformers，基于 Transformer 的双向编码器表示）的新颖迁移学习方法。更具体地，我们通过基于迁移学习的新微调方法，考察了 BERT 捕捉社交媒体内容中仇恨语境的能力。为评估我们提出的方法，我们使用了两个公开可用的数据集，这些数据集已在 Twitter 上标注了种族主义、性别歧视、仇恨或攻击性内容。结果表明，与现有方法相比，我们的解决方案在这些数据集上取得了可观的精确率与召回率性能。因此，我们的模型能够捕捉数据标注与收集过程中的一些偏差，并可能引导我们建立更准确的模型。