用于可控常识推理的模板填充
计算与语言
2022-10-17 v3 人工智能
摘要
大规模序列到序列模型已证明擅长多项选择与开放域常识推理任务。然而,当前系统无法控制推理链的各种属性。为增强可控性,我们提出将常识推理作为模板填充任务(TemplateCSR)来研究——语言模型以给定约束作为控制因子填充推理模板。作为 TemplateCSR 的一种方法,我们(i)提出一个常识推理模板—扩展配对数据集,并(ii)引入 POTTER,一种利用提示跨概念执行常识推理的预训练序列到序列模型。我们的实验表明,该方法在生成指标与事实性指标上均优于基线。我们还对该方法可靠执行常识推理的能力给出了详细的错误分析。
引用
@article{arxiv.2111.00539,
title = {Template Filling for Controllable Commonsense Reasoning},
author = {Dheeraj Rajagopal and Vivek Khetan and Bogdan Sacaleanu and Anatole Gershman and Andrew Fano and Eduard Hovy},
journal= {arXiv preprint arXiv:2111.00539},
year = {2022}
}