中文

NLITrans 在 SemEval-2018 任务 12:面向论点理解语义知识的迁移

计算与语言 2018-04-24 v1

摘要

论点推理理解任务需要显著的语言理解能力以及对世界知识的复杂推理。我们专注于迁移句子编码器,以在数据集规模较小的情况下引导更复杂的模型。我们的最佳模型使用预训练的 BiLSTM 对输入句子进行编码,为论点与依据学习任务特定特征,随后执行独立的论点-依据匹配。该模型在测试集上取得了 64.43% 的平均准确率。编码器迁移为我们的最佳模型带来了相对于随机初始化的显著增益。独立的依据匹配有效地将数据集规模翻倍并提供了额外的正则化。我们证明该正则化源于忽略依据特征与位置之间的统计相关性。我们还报告了使用最佳模型仅将依据与理由匹配而忽略主张的实验。相对较低的性能下降表明我们的模型未必在学习预期的任务。

关键词

引用

@article{arxiv.1804.08266,
  title  = {NLITrans at SemEval-2018 Task 12: Transfer of Semantic Knowledge for Argument Comprehension},
  author = {Tim Niven and Hung-Yu Kao},
  journal= {arXiv preprint arXiv:1804.08266},
  year   = {2018}
}