NEU 在 WNUT-2020 任务 2 上的工作：用数据增强告诉 BERT 死亡未必具有信息性

Kumud Chauhan

NEU 在 WNUT-2020 任务 2 上的工作：用数据增强告诉 BERT 死亡未必具有信息性

计算与语言 2020-09-21 v1 信息检索

作者: Kumud Chauhan

摘要

全球数以百万计的人在社交媒体平台上分享与 COVID-19 相关的信息。由于社交媒体上分享的信息并非全部有用，一个用于识别信息性帖子的机器学习系统可帮助用户找到相关信息。在本文中，我们提出了一个用于 W-NUT2020 共享任务 2（识别信息性 COVID-19 英文推文）的 BERT 分类器系统。此外，我们表明 BERT 利用一些简单信号来识别信息性推文，而向非信息性推文中添加简单模式会严重降低 BERT 性能。具体而言，仅在验证集中向推文添加 10 例死亡，就将 BERT 的 F1 分数从 92.63 降至 7.28。我们还提出了一种简单的数据增强技术，有助于提升 BERT 分类器的鲁棒性与泛化能力。

关键词

数据增强 BERT 分类器信息性推文识别 WNUT-2020 COVID-19 推文鲁棒性泛化

引用

@article{arxiv.2009.08590,
  title  = {NEU at WNUT-2020 Task 2: Data Augmentation To Tell BERT That Death Is Not Necessarily Informative},
  author = {Kumud Chauhan},
  journal= {arXiv preprint arXiv:2009.08590},
  year   = {2020}
}

备注

WNUT-2020 Task 2 System Description paper

相关论文

查看更多相关论文 →