利用冻结 Transformer 语言模型与 AXEL 的跨语言零样本与少样本仇恨言论检测
计算与语言
2020-04-30 v1 机器学习
机器学习
摘要
检测仇恨言论,尤其在低资源语言中,是一项非平凡的 challenge。为此,我们基于冻结的预训练 Transformer 开发了一种定制架构,以在 HatEval 挑战数据集上考察跨语言零样本与少样本学习,以及单语学习。借助我们新颖的基于注意力的分类模块 AXEL,我们在英语和西班牙语子集上展示了极具竞争力的结果。我们还对英语子集进行了重采样,以便未来开展额外有意义的比较。
引用
@article{arxiv.2004.13850,
title = {Cross-lingual Zero- and Few-shot Hate Speech Detection Utilising Frozen Transformer Language Models and AXEL},
author = {Lukas Stappen and Fabian Brunn and Björn Schuller},
journal= {arXiv preprint arXiv:2004.13850},
year = {2020}
}