该问题会被回答吗?通过答案模型蒸馏进行问题过滤以实现高效问答
计算与语言
2021-09-16 v1
摘要
本文提出一种新方法,通过过滤掉不会被问答(QA)系统回答的问题,提升 QA 系统的效率。这基于一项有趣的新发现:最先进 QA 系统的答案置信度分数可由仅使用输入问题文本的模型很好地近似。这使得能够依据答案置信度分数低于系统阈值而 preemptive 过滤掉系统不予回答的问题。具体而言,我们通过蒸馏基于 Transformer 的回答模型来学习基于 Transformer 的问题模型。我们在三个流行 QA 数据集和一个工业 QA 基准上的实验表明,我们的问题模型能很好地近似目标 QA 系统的精确率/召回率曲线。当用作过滤器时,这些问题模型能有效以较低召回率换取 QA 系统较低的计算成本,例如在计算量减少约 60% 的同时,仅损失约 3%–4% 的召回率。
引用
@article{arxiv.2109.07009,
title = {Will this Question be Answered? Question Filtering via Answer Model Distillation for Efficient Question Answering},
author = {Siddhant Garg and Alessandro Moschitti},
journal= {arXiv preprint arXiv:2109.07009},
year = {2021}
}
备注
Accepted at EMNLP 2021 Main Conference (Long)