文本模块化网络：以现有模型的语言学习分解任务
计算与语言
2021-04-14 v2 人工智能
摘要
我们提出了一种称为文本模块化网络（Text Modular Networks, TMNs）的通用框架，用于构建可解释系统，这些系统通过学习将复杂任务分解为可由现有模型解决的更简单任务来解决问题。为确保更简单任务的可解性，TMNs通过其数据集学习现有模型的文本输入-输出行为（即语言）。这与先前基于分解的方法不同，后者除了专为每个复杂任务设计外，产生的分解独立于现有的子模型。具体而言，我们关注问答（Question Answering, QA），并展示如何训练一个下一问题生成器，以顺序生成针对适当子模型的子问题，无需额外人工标注。这些子问题与答案提供了模型推理的忠实自然语言解释。我们使用该框架构建ModularQA，一个能通过将被分解为可由神经事实型单跨度QA模型和符号计算器回答的子问题来回答多跳推理问题的系统。我们的实验表明，ModularQA比DROP和HotpotQA数据集上现有的可解释系统更具通用性，比最先进的黑盒（不可解释）系统更鲁棒，并且与先前工作相比生成了更易理解和可信的解释。
引用
@article{arxiv.2009.00751,
title = {Text Modular Networks: Learning to Decompose Tasks in the Language of Existing Models},
author = {Tushar Khot and Daniel Khashabi and Kyle Richardson and Peter Clark and Ashish Sabharwal},
journal= {arXiv preprint arXiv:2009.00751},
year = {2021}
}
备注
Accepted to NAACL 2021