一种用于开放域对话生成的经验贝叶斯框架
计算与语言
2023-11-21 v1 人工智能
摘要
为了与人类用户进行有意义的对话，开放域对话智能体需要生成多样化且与上下文连贯的对话。尽管近期进展可归因于预训练语言模型的使用，但生成多样且连贯的对话仍是一个开放的研究问题。解决该问题的一种流行方法是采用变分框架。然而，这些方法虽成功提升了多样性，却往往牺牲了上下文连贯性。因此，我们提出了贝叶斯经验贝叶斯开放域对话（BODEB）框架，这是一种经验贝叶斯框架，通过利用预训练参数来指导先验与后验参数分布，从而构建贝叶斯开放域对话智能体。实证结果表明，与变分框架相比，BODEB 在多样性和连贯性两方面均取得了更好的结果。
引用
@article{arxiv.2311.10945,
title = {An Empirical Bayes Framework for Open-Domain Dialogue Generation},
author = {Jing Yang Lee and Kong Aik Lee and Woon-Seng Gan},
journal= {arXiv preprint arXiv:2311.10945},
year = {2023}
}