QiaoNing 在 SemEval-2020 任务 4：基于语言模型集成的常识验证与解释系统
计算与语言
2020-09-08 v1 人工智能
摘要
在本文中，我们呈现提交至 SemEval-2020 任务 4 竞赛“常识验证与解释”的语言模型系统。我们参与两个子任务：子任务 A 验证与子任务 B 解释。我们使用预训练语言模型（BERT、XLNet、RoBERTa 与 ALBERT）以迁移学习实现并微调于该任务。随后我们比较它们在该任务中的特性，以帮助未来研究者更恰当地理解并使用这些模型。集成模型更好地解决了该问题，使模型在子任务 A 上的准确率达到了 95.9%，仅比人类低 3% 的准确率。
引用
@article{arxiv.2009.02645,
title = {QiaoNing at SemEval-2020 Task 4: Commonsense Validation and Explanation system based on ensemble of language model},
author = {Pai Liu},
journal= {arXiv preprint arXiv:2009.02645},
year = {2020}
}