基于众包数据集的文本前提条件建模
计算与语言
2020-10-15 v3
摘要
前提条件提供了一种事件间的逻辑连接形式，解释了为何某些事件共同发生，并补充了诸如因果、时间顺序、蕴含与话语关系等被广泛研究的关系。文本中前提条件的建模部分由于缺少基于文本的大规模标注数据而受阻。本文介绍 PeKo，一个在新闻专线中事件对间前提条件的众包标注，其规模比先前文本标注大一个数量级。为补充这一新语料，我们还引入两项旨在建模前提条件的挑战任务：(i) 前提条件识别——定义在事件提及对上的标准分类任务，以及 (ii) 前提条件生成——旨在测试对给定事件进行推理的更通用能力的生成任务。两项任务的评估表明，即便对当今大型语言模型（LM）而言，建模前提条件也具有挑战性。这表明前提条件知识仅从 LM 派生的表示中不易获取。我们的生成结果显示，在 PeKo 上微调 LM 比在原始文本或时间有序语料上训练产生更好的条件关系。
引用
@article{arxiv.2010.02429,
title = {Modeling Preconditions in Text with a Crowd-sourced Dataset},
author = {Heeyoung Kwon and Mahnaz Koupaee and Pratyush Singh and Gargi Sawhney and Anmol Shukla and Keerthi Kumar Kallur and Nathanael Chambers and Niranjan Balasubramanian},
journal= {arXiv preprint arXiv:2010.02429},
year = {2020}
}