潜在组合式表示改善具身问答中的系统性泛化
计算与语言
2020-11-11 v3 人工智能
机器学习
摘要
回答涉及多步推理的问题需要将其分解并利用中间步骤的答案来得出最终答案。然而，最先进的具身问答模型通常不显式执行分解，导致难以泛化到分布外样本。在这项工作中，我们提出一种模型，使用 CKY 风格解析器以自底向上、组合式的方式计算所有问题跨度的表示与指称。我们的模型仅由端到端(答案)监督驱动诱导潜在树。我们表明，与算术表达式基准以及专注于具身问答系统性泛化的 CLOSURE 数据集上的强基线相比，这种面向树结构的归纳偏置显著改善了对分布外样本的系统性泛化。在这个具挑战性的数据集上，我们的模型达到了 96.1% 的准确率，显著高于那些在随机、分布内划分上几乎完美解决任务的先前模型。
引用
@article{arxiv.2007.00266,
title = {Latent Compositional Representations Improve Systematic Generalization in Grounded Question Answering},
author = {Ben Bogin and Sanjay Subramanian and Matt Gardner and Jonathan Berant},
journal= {arXiv preprint arXiv:2007.00266},
year = {2020}
}
备注
Accepted for publication in Transactions of the Association for Computational Linguistics (TACL), 2020. Author's final version