中文

CS-NET 在 SemEval-2020 任务 4 中的系统:用于 ComVE 的孪生 BERT

计算与语言 2020-07-23 v1 机器学习

摘要

在本文中,我们描述了我们用于 SemEval 2020 任务 4 的系统,该任务涉及区分符合常识的自然语言陈述与不符合常识的陈述。组织者提出了三个子任务——第一,在两个句子中选择不符合常识的一个;第二,识别陈述不合理的最关键原因;第三,生成解释不符合常识陈述的新原因。在三个子任务中,本文报告了子任务 A 和子任务 B 的系统描述。本文提出了一种基于 transformer 神经网络架构的模型来解决这些子任务。工作的新颖性在于架构设计,其处理了矛盾陈述的逻辑蕴含以及从两个句子中同时提取信息。我们使用了并行的 transformer 实例,这带来了性能的提升。我们在测试集上于子任务 A 取得了 94.8% 的准确率,于子任务 B 取得了 89% 的准确率。

关键词

引用

@article{arxiv.2007.10830,
  title  = {CS-NET at SemEval-2020 Task 4: Siamese BERT for ComVE},
  author = {Soumya Ranjan Dash and Sandeep Routray and Prateek Varshney and Ashutosh Modi},
  journal= {arXiv preprint arXiv:2007.10830},
  year   = {2020}
}

备注

6 pages, 2 figures, 2 tables Accepted at Proceedings of the 14th International Workshop on Semantic Evaluation (SemEval-2020)