Papelo 团队:FEVER 任务中的 Transformer 网络
计算与语言
2019-01-10 v1
摘要
我们为 FEVER 事实抽取与验证挑战开发了一个系统,该系统使用基于以语言建模预训练的 transformer 网络的高精度蕴含分类器,对一组广泛的潜在证据进行分类。蕴含分类器的精度使我们能够通过考虑来自若干文章的每个陈述来决定每个声明,从而提升召回率。我们不仅包含通过 TFIDF 分数与声明文本最匹配的文章,还读取标题与声明文本中出现的命名实体和 capitalized 表达式相匹配的附加文章。蕴含模块每次评估一个潜在证据陈述,连同该证据所属页面的标题(提供关于可能代词前指的提示)。在初步评估中,该系统在 FEVER 共享任务测试集上取得了 .5736 的 FEVER 分数、.6108 的标签准确率和 .6485 的证据 F1。
引用
@article{arxiv.1901.02534,
title = {Team Papelo: Transformer Networks at FEVER},
author = {Christopher Malon},
journal= {arXiv preprint arXiv:1901.02534},
year = {2019}
}
备注
Appeared at EMNLP 2018 First Workshop on Fact Extraction and Verification (FEVER)