中文

Kungfupanda 在 SemEval-2020 任务 12 中的工作:基于 BERT 的多任务学习用于攻击性语言检测

计算与语言 2020-07-21 v2 机器学习

摘要

如今,社交媒体中的攻击性内容已成为一个严重问题,自动检测攻击性语言是一项重要任务。在本文中,我们构建了一个攻击性语言检测系统,该系统将多任务学习与基于 BERT 的模型相结合。通过使用如 BERT 之类的预训练语言模型,我们可以有效学习社交媒体中噪声文本的表示。此外,为了提升攻击性语言检测的性能,我们利用来自其他相关任务的监督信号。在 OffensEval-2020 竞赛中,我们的模型在英语子任务 A 中取得了 91.51% 的 F1 分数,与第一名(92.23% F1)相当。我们提供了实证分析以解释我们方法的有效性。

关键词

引用

@article{arxiv.2004.13432,
  title  = {Kungfupanda at SemEval-2020 Task 12: BERT-Based Multi-Task Learning for Offensive Language Detection},
  author = {Wenliang Dai and Tiezheng Yu and Zihan Liu and Pascale Fung},
  journal= {arXiv preprint arXiv:2004.13432},
  year   = {2020}
}

备注

Submitted to SemEval-2020 Workshop