SYNERGY:利用符号知识与机器教学大规模构建任务型对话机器人
计算与语言
2021-10-25 v1 人工智能
摘要
在本文中,我们探索利用符号知识与机器教学来减少构建神经任务型对话机器人时的人体数据标注工作。我们提出 SYNERGY,一种混合学习框架,其中任务型对话机器人分两步开发:(i) 从符号知识到神经网络:基于任务特定的符号知识(表示为由对话流和面向任务的数据库组成的任务模式)生成大量模拟对话会话。然后在模拟对话上对预训练的神经对话模型 SOLOIST 进行微调,为该任务构建对话机器人。(ii) 神经学习:通过机器教学,用少量真实任务特定对话对微调后的神经对话模型持续精炼,其中训练样本由人类教师与任务型对话机器人交互生成。我们在四项对话任务上验证 SYNERGY。实验结果表明,SYNERGY 将任务特定知识映射到神经对话模型中,实现了对话流更大的多样性和覆盖度,并通过机器教学持续提升模型性能,从而展示了符号知识与机器教学的强协同效应。
引用
@article{arxiv.2110.11514,
title = {SYNERGY: Building Task Bots at Scale Using Symbolic Knowledge and Machine Teaching},
author = {Baolin Peng and Chunyuan Li and Zhu Zhang and Jinchao Li and Chenguang Zhu and Jianfeng Gao},
journal= {arXiv preprint arXiv:2110.11514},
year = {2021}
}
备注
8 pages