缓解过度关联对对话式查询生成的负面影响

对话式查询生成旨在从对话历史中生成搜索查询，随后用于从搜索引擎检索相关知识以辅助基于知识的对话系统。以往模型在训练时最大化标准查询的似然，面临数据匮乏问题，且在推理时倾向于丢弃对话历史中的重要概念并生成不相关的概念。我们将这些问题归因于过度关联现象，即大量标准查询与对话主题间接相关，因为标注者在生成这些标准查询时可能无意识地运用了其背景知识进行推理。我们仔细分析了这一现象对预训练Seq2seq查询生成器的负面影响，并提出了有效的实例级加权训练策略，从多个角度缓解这些问题。在两个基准数据集Wizard-of-Internet和DuSinc上的实验表明，我们的策略有效减轻了负面影响，并带来了显著的性能提升（自动指标和人工评估均提升2%-5%）。进一步分析显示，我们的模型能从对话历史中选择更好的概念，且数据效率比基线模型高10倍。代码可在https://github.com/DeepLearnXMU/QG-OverAsso获取。