基于 Transformer 双向编码器表示的 COVID-19 假新闻检测
计算与语言
2021-10-04 v2
摘要
如今,社交媒体的发展使人们能够轻松获取最新新闻。在 COVID-19 大流行期间,人们获取新闻以便采取相应防护措施十分重要。然而,假新闻泛滥且在全局大流行下尤为严重。具有误导性的假新闻会给个人和社会造成重大损失。COVID-19 假新闻检测已成为 NLP 领域一项新颖且重要的任务。然而,假新闻往往同时包含正确部分和错误部分,这一事实增加了分类任务的难度。在本文中,我们将预训练的 Transformer 双向编码器表示(BERT)模型微调作为基础模型。我们在微调后的 BERT 模型之上分别使用冻结参数或非冻结参数方法添加 BiLSTM 层和 CNN 层。模型性能评估结果表明,我们的最佳模型(带冻结参数的微调 BERT 模型加 BiLSTM 层)在 COVID-19 假新闻检测任务上取得了 SOTA 结果。我们还使用最佳模型探索了关键词评估方法,并评估了移除关键词后的模型性能。
引用
@article{arxiv.2109.14816,
title = {COVID-19 Fake News Detection Using Bidirectional Encoder Representations from Transformers Based Models},
author = {Yuxiang Wang and Yongheng Zhang and Xuebo Li and Xinyao Yu},
journal= {arXiv preprint arXiv:2109.14816},
year = {2021}
}