探索文本Transformer在AAAI 2021共享任务:英文COVID-19假新闻检测中的应用
计算与语言
2021-09-24 v1 人工智能
机器学习
摘要
本文描述了我们用于AAAI 2021英文COVID-19假新闻检测共享任务的系统,我们在测试集上以0.9859的加权F1分数取得第3名的成绩。具体而言,我们提出了一种集成方法,结合BERT、Roberta、Ernie等不同预训练语言模型,并采用预热、学习率调度和k折交叉验证等多种训练策略。我们还对未被正确分类的样本进行了广泛分析。代码可在https://github.com/archersama/3rd-solution-COVID19-Fake-News-Detection-in-English获取。
引用
@article{arxiv.2101.02359,
title = {Exploring Text-transformers in AAAI 2021 Shared Task: COVID-19 Fake News Detection in English},
author = {Xiangyang Li and Yu Xia and Xiang Long and Zheng Li and Sujian Li},
journal= {arXiv preprint arXiv:2101.02359},
year = {2021}
}
备注
3rd solution of 'Constraint@AAAI2021 - COVID19 Fake News Detection in English'