细微改动带来显著差异：基于细粒度对比学习改进对话系统多轮回复选择
计算与语言
2021-11-29 v2 信息检索
摘要
基于检索的对话回复选择旨在给定多轮上下文后从候选集中找到合适的回复。基于预训练语言模型（PLM）的方法在该任务上取得了显著提升。序列表示在对话上下文与回复之间匹配程度的学习中起着关键作用。然而，我们观察到，由 PLM 计算的序列表示中，共享同一上下文的不同上下文-回复对总是具有更高的相似度，这使得难以区分正例回复与负例回复。受此启发，我们提出了一种新颖的基于 PLM 的细粒度对比（FGC）学习方法用于回复选择任务。该 FGC 学习策略帮助 PLM 在细粒度上生成更具区分性的各对话匹配表示，并进一步在选取正例回复时做出更好的预测。在两个基准数据集上的实证研究表明，所提出的 FGC 学习方法能够普遍且显著地提升现有基于 PLM 的匹配模型的性能。
引用
@article{arxiv.2111.10154,
title = {Small Changes Make Big Differences: Improving Multi-turn Response Selection in Dialogue Systems via Fine-Grained Contrastive Learning},
author = {Yuntao Li and Can Xu and Huang Hu and Lei Sha and Yan Zhang and Daxin Jiang},
journal= {arXiv preprint arXiv:2111.10154},
year = {2021}
}