主题可迁移的表格问答
计算与语言
2021-09-16 v1 人工智能
摘要
弱监督表格问答（TableQA）模型通过使用预训练的 BERT transformer 联合编码问题与表格以生成问题的结构化查询，已取得了最优性能。然而，在实际部署中，TableQA 系统所运行的表格语料的主题与词分布与 BERT 的预训练语料有显著区别。在这项工作中，我们基于流行的 WikiSQL 和 WikiTableQuestions 数据集，通过设计新颖的挑战基准 WikiSQL-TS 和 WikiTQ-TS 来模拟实际的主题偏移场景，其由五个不同主题组的训练-验证-测试划分组成。我们经验性地表明，尽管在大型开放域文本上进行了预训练，当模型在未见主题上评估时性能显著下降。对此，我们提出 T3QA（主题可迁移的表格问答），一个用于 TableQA 的实用自适应框架，包括：（1）向 BERT 注入主题特定词汇；（2）一个基于文本到文本 transformer 生成器（如 T5、GPT2）的新型自然语言问题生成流水线，专注于生成主题特定训练数据；（3）一个逻辑形式重排序器。我们展示了 T3QA 为我们的主题偏移基准提供了相当好的基线。我们相信我们的主题划分基准将催生更适用于实际部署的鲁棒 TableQA 解决方案。
引用
@article{arxiv.2109.07377,
title = {Topic Transferable Table Question Answering},
author = {Saneem Ahmed Chemmengath and Vishwajeet Kumar and Samarth Bharadwaj and Jaydeep Sen and Mustafa Canim and Soumen Chakrabarti and Alfio Gliozzo and Karthik Sankaranarayanan},
journal= {arXiv preprint arXiv:2109.07377},
year = {2021}
}
备注
To appear at EMNLP 2021