Mix-and-Match:基于高斯混合嵌入的可扩展对话响应检索
计算与语言
2022-04-07 v1 人工智能
摘要
基于嵌入的对话响应检索方法将上下文-响应对嵌入为嵌入空间中的点。这些方法可扩展,但未能考虑上下文-响应对之间存在的复杂多对多关系。在另一极端,有些方法将上下文-响应对联合通过多层神经网络。这些方法可建模上下文-响应对间的复杂关系,但在响应集中等偏大(>100)时无法扩展。本文中,我们结合两者优势,提出一种可扩展且能学习上下文-响应对间复杂关系的模型。具体而言,该模型将上下文与响应映射为嵌入空间上的概率分布。我们通过优化训练数据中上下文-响应对所诱导分布间的 Kullback-Leibler 散度来训练模型。我们表明,所得模型在公开可用的对话数据上相较其他基于嵌入的方法取得了更优性能。
引用
@article{arxiv.2204.02710,
title = {Mix-and-Match: Scalable Dialog Response Retrieval using Gaussian Mixture Embeddings},
author = {Gaurav Pandey and Danish Contractor and Sachindra Joshi},
journal= {arXiv preprint arXiv:2204.02710},
year = {2022}
}
备注
10 pages, 2 figures