自然语言演绎的灵活生成
计算与语言
2021-09-10 v2 人工智能
摘要
一个可解释的开放域推理系统需要以透明的形式表达其推理过程。自然语言是为此目的的一种极具吸引力的表示——它既高度富有表现力又易于人类理解。然而,以逻辑一致的方式操纵自然语言语句是困难的:模型必须在保持精确的同时应对意义表达上的多样性。本文中,我们描述ParaPattern,一种构建模型以从多样自然语言输入生成演绎推理而无需直接人类监督的方法。我们训练基于BART的模型(Lewis et al., 2020)来生成将一个或多个前提语句施加特定逻辑操作的结果。关键的是,我们开发了一条大体自动化的流水线,用于从维基百科构建合适的训练样本。我们使用来自QASC(Khot et al., 2020)与EntailmentBank(Dalvi et al., 2021)数据集的域外句子组合以及针对性扰动集评估我们的模型。结果表明我们的模型比基线系统显著更准确且更灵活。ParaPattern在EntailmentBank的'替换'操作示例上达到85%有效性,且未使用任何域内训练数据,匹配了为EntailmentBank微调的模型性能。我们方法的完整源代码已公开可用。
引用
@article{arxiv.2104.08825,
title = {Flexible Generation of Natural Language Deductions},
author = {Kaj Bostrom and Xinyu Zhao and Swarat Chaudhuri and Greg Durrett},
journal= {arXiv preprint arXiv:2104.08825},
year = {2021}
}
备注
Accepted to EMNLP 2021 (long paper). 9 pages (13 with references and appendix), 8 figures