对话提示:如何控制对话模型?
计算与语言
2022-09-23 v1
摘要
对话建模面临困难的权衡。模型在大量文本上训练,但其回复需要限制在对话智能体期望的范围与风格内。由于实现前者的数据集包含与后者不兼容的语言,预训练对话模型需在较小的精选数据集上微调。然而,微调过程剥夺了它们产生多样回复的能力,最终使其沦为乏味的对话伙伴。本文研究提示(prompting)是否能缓解上述权衡。具体地,我们尝试基于查询条件化提示,而非为所有查询训练单一提示。遵循冻结预训练语言模型可保留其表达能力的直觉,我们发现与微调相比,提示能获得更高的 BLEU 分数,并显著提升回复的多样性与新颖性。
引用
@article{arxiv.2209.11068,
title = {Prompting for a conversation: How to control a dialog model?},
author = {Josef Valvoda and Yimai Fang and David Vandyke},
journal= {arXiv preprint arXiv:2209.11068},
year = {2022}
}