听感自然:对话系统中的内容改写
计算与语言
2020-11-05 v1 机器学习
摘要
我们提出了一项面向更自然的虚拟助手的改写新任务。当前,虚拟助手以意图槽位标注范式工作,槽位值直接原样传递给执行引擎。然而,在诸如消息发送等场景中,当用户给出的查询需要在重复或发送给另一用户之前进行修改时,该设置会失效。例如,对于“问我妻子能否去接孩子”或“提醒我吃药”这类查询,我们需要将内容改写为“你能去接孩子吗”和“吃你的药”。在本文中,我们以消息发送为用例研究改写问题,并发布了一个包含 3000 对原始查询与改写查询的数据集。我们展示了 BART(一种基于预训练 transformers 的带自回归解码的掩码语言模型)是该任务的强基线,并通过为其添加拷贝指针和拷贝损失取得了改进。我们分析了基于 BART 和基于 LSTM 的 seq2seq 模型的不同权衡,并提出了一种蒸馏的基于 LSTM 的 seq2seq 作为最佳实用模型。
引用
@article{arxiv.2011.01993,
title = {Sound Natural: Content Rephrasing in Dialog Systems},
author = {Arash Einolghozati and Anchit Gupta and Keith Diedrick and Sonal Gupta},
journal= {arXiv preprint arXiv:2011.01993},
year = {2020}
}