aschern在SemEval-2020任务11:三足鼎立:RoBERTa、CRF与迁移学习
计算与语言
2020-08-10 v1 人工智能
信息检索
机器学习
神经与进化计算
摘要
我们描述了用于SemEval-2020任务11(新闻文章中宣传技术检测)的系统。我们开发了使用基于RoBERTa的神经架构、额外CRF层、两个子任务间的迁移学习以及高级后处理的集成模型,以处理任务的多标签性质、嵌套跨度的连贯性、重复以及训练中相似跨度的标签。相较于基线微调RoBERTa模型,我们取得了可观的提升,官方评估中我们的系统在跨度识别子任务上以0.491的F1分数在36支队伍中排名第3(几乎与第2名持平),在技术分类子任务上以0.62的F1分数在31支队伍中排名第2(几乎与第1名持平)。
引用
@article{arxiv.2008.02837,
title = {aschern at SemEval-2020 Task 11: It Takes Three to Tango: RoBERTa, CRF, and Transfer Learning},
author = {Anton Chernyavskiy and Dmitry Ilvovsky and Preslav Nakov},
journal= {arXiv preprint arXiv:2008.02837},
year = {2020}
}
备注
propaganda, persuasion, disinformation, fake news