对比式多文档问题生成
计算与语言
2021-05-19 v3
摘要
多文档问题生成致力于生成覆盖多个文档共同方面的问题。此类模型在生成澄清选项时很有用。然而,仅使用目标(“正”)文档集训练的朴素模型可能生成过于宽泛的问题,其覆盖范围超出文档集所界定。为应对该挑战,我们引入对比学习策略:给定“正”和“负”文档集,我们生成与“正”集密切相关但与“负”集相距甚远的问题。该设定使生成的问题更具体且与目标文档集相关。为生成此类具体问题,我们提出多源协调问题生成器(MSCQG),一种包含监督学习(SL)阶段和强化学习(RL)阶段的新型框架。在SL阶段,训练单文档问题生成器。在RL阶段,训练协调器模型以寻找最优注意力权重来对齐多个单文档生成器,通过优化旨在提升生成问题特异性的奖励实现。我们还开发了名为集合诱导对比正则化(SCR)的有效辅助目标,在RL阶段改善协调器的对比学习。我们表明,通过自动指标和人工评估衡量,我们的模型显著优于多个强基线。源代码仓库公开于 \url{www.github.com/woonsangcho/contrast_qgen}。
引用
@article{arxiv.1911.03047,
title = {Contrastive Multi-document Question Generation},
author = {Woon Sang Cho and Yizhe Zhang and Sudha Rao and Asli Celikyilmaz and Chenyan Xiong and Jianfeng Gao and Mengdi Wang and Bill Dolan},
journal= {arXiv preprint arXiv:1911.03047},
year = {2021}
}
备注
EACL 2021