基于序贯后验推断的多样且忠实的知识 grounded 对话生成
计算与语言
2023-08-08 v2
摘要
利用事实知识生成兼具多样性与忠实性的回复，对于构建类人、可信的对话系统至关重要。常见策略或采用两步范式，分别优化知识选择与回复生成，可能忽略两任务间的内在关联；或利用条件变分方法，通过推断网络联合优化知识选择与回复生成。本文提出一个端到端学习框架，称为序贯后验推断（SPI），能够通过从后验分布中近似采样来选择知识并生成对话。与其他方法不同，SPI 不需要推断网络，也不假设后验分布具有简单几何结构。SPI 这一直接且直观的推断过程直接查询回复生成模型，从而实现准确的知识选择与忠实回复生成。除建模贡献外，我们在两个常用对话数据集（Wizard of Wikipedia 与 Holl-E）上的实验结果表明，根据自动与人工评价指标，SPI 均优于以往强基线。
引用
@article{arxiv.2306.01153,
title = {Diverse and Faithful Knowledge-Grounded Dialogue Generation via Sequential Posterior Inference},
author = {Yan Xu and Deqian Kong and Dehong Xu and Ziwei Ji and Bo Pang and Pascale Fung and Ying Nian Wu},
journal= {arXiv preprint arXiv:2306.01153},
year = {2023}
}
备注
Accepted to ICML 2023