Kungfupanda 在 SemEval-2020 任务 12 中的工作:基于 BERT 的多任务学习用于攻击性语言检测
计算与语言
2020-07-21 v2 机器学习
摘要
如今,社交媒体中的攻击性内容已成为一个严重问题,自动检测攻击性语言是一项重要任务。在本文中,我们构建了一个攻击性语言检测系统,该系统将多任务学习与基于 BERT 的模型相结合。通过使用如 BERT 之类的预训练语言模型,我们可以有效学习社交媒体中噪声文本的表示。此外,为了提升攻击性语言检测的性能,我们利用来自其他相关任务的监督信号。在 OffensEval-2020 竞赛中,我们的模型在英语子任务 A 中取得了 91.51% 的 F1 分数,与第一名(92.23% F1)相当。我们提供了实证分析以解释我们方法的有效性。
引用
@article{arxiv.2004.13432,
title = {Kungfupanda at SemEval-2020 Task 12: BERT-Based Multi-Task Learning for Offensive Language Detection},
author = {Wenliang Dai and Tiezheng Yu and Zihan Liu and Pascale Fung},
journal= {arXiv preprint arXiv:2004.13432},
year = {2020}
}
备注
Submitted to SemEval-2020 Workshop