从答案排序到答案生成的知识迁移
计算与语言
2022-10-25 v1 机器学习
摘要
近期研究表明，基于答案句选择（Answer Sentence Selection, AS2）的问答（Question Answering, QA）可通过从排名前k的答案句中生成改进答案（称为GenQA）来提升效果。这使得能够将多个候选答案的信息综合为简洁、自然的回答。然而，为GenQA模型创建大规模监督训练数据极具挑战性。本文中，我们提出通过从训练好的AS2模型迁移知识来训练GenQA模型，以克服上述问题。首先，我们使用AS2模型对一组问题的答案候选进行排名。然后，我们将排名最高的候选作为生成目标，并将接下来排名前k的候选作为上下文来训练GenQA模型。我们还提出利用AS2模型的预测分数进行损失加权以及分数条件化的输入/输出塑造，以促进知识迁移。我们在三个公开数据集和一个大型工业数据集上的评估证明了我们的方法相对于AS2基线以及使用监督数据训练的GenQA的优越性。
引用
@article{arxiv.2210.12865,
title = {Knowledge Transfer from Answer Ranking to Answer Generation},
author = {Matteo Gabburo and Rik Koncel-Kedziorski and Siddhant Garg and Luca Soldaini and Alessandro Moschitti},
journal= {arXiv preprint arXiv:2210.12865},
year = {2022}
}
备注
Accepted at EMNLP 2022