中文

利用回译与复述进行数据扩展的仇恨言论检测

计算与语言 2021-06-10 v1

摘要

随着社交媒体平台中用户生成内容的激增,建立自动识别有害和滥用内容的机制成为监管者、研究人员和社会的首要关切。在言论自由与相互尊重尊严之间保持平衡是社交媒体平台监管者的主要关切。尽管使用深度学习方法自动检测攻击性内容似乎提供了令人鼓舞的结果,但训练基于深度学习的模型需要大量高质量标注数据,而这往往缺失。在这方面,我们在本文中提出一种新的基于深度学习的方法,融合回译 (Back Translation) 方法与复述 (Paraphrasing) 技术进行数据增强。我们的流程研究了不同的基于词嵌入的架构用于仇恨言论分类。回译技术依赖于在大型语料上预训练且主要用于机器翻译的编码器-解码器架构。此外,复述利用 transformer 模型与混合专家 (mixture of experts) 生成多样化复述。最后,比较了 LSTM 与 CNN 以寻求增强的分类结果。我们在五个公开可用数据集上评估了我们的方案;即 AskFm 语料、Formspring 数据集、Warner 和 Waseem 数据集、Olid 以及 Wikipedia 有毒评论数据集。该方案的性能以及与若干相关 SOTA 结果的比较证明了我们方案的有效性与合理性。

关键词

引用

@article{arxiv.2106.04681,
  title  = {Data Expansion using Back Translation and Paraphrasing for Hate Speech Detection},
  author = {Djamila Romaissa Beddiar and Md Saroar Jahan and Mourad Oussalah},
  journal= {arXiv preprint arXiv:2106.04681},
  year   = {2021}
}