KEIS@JUST 在 SemEval-2020 任务 12 的工作:使用加权集成与微调 BERT 识别多语言攻击性推文
计算与语言
2020-05-19 v1 机器学习
摘要
本研究介绍了我们的团队 KEIS@JUST 参与 SemEval-2020 任务 12 的情况,该任务为关于多语言攻击性语言的共享任务。我们参与了除英语子任务 A 外所有子任务所提供的全部语言。开发了两种主要方法:第一种用于处理阿拉伯语和英语,采用由 Bi-GRU 与 CNN 组成的加权集成,其后接高斯噪声与全局池化层并乘以权重以提升整体性能;第二种用于其他语言,采用 BERT 的迁移学习并结合 Bi-LSTM 与 Bi-GRU 等循环神经网络,后接全局平均池化层。使用了词嵌入与上下文嵌入作为特征,此外数据增强仅用于阿拉伯语。
引用
@article{arxiv.2005.07820,
title = {KEIS@JUST at SemEval-2020 Task 12: Identifying Multilingual Offensive Tweets Using Weighted Ensemble and Fine-Tuned BERT},
author = {Saja Khaled Tawalbeh and Mahmoud Hammad and Mohammad AL-Smadi},
journal= {arXiv preprint arXiv:2005.07820},
year = {2020}
}
备注
8 pages without references, 4 figures, SemEval 2020 conference