XL-NBT:一种跨语言神经信念追踪框架
计算与语言
2018-08-28 v2 人工智能
摘要
面向任务的对话系统正变得无处不在,许多公司严重依赖它们来补充呼叫中心人工客服的客服工作。随着全球化,提供跨语言客户支持的需求比以往任何时候都更为迫切。然而,跨语言支持带来了巨大挑战——它需要来自母语使用者的大量额外标注数据。为了避开昂贵的人工标注,并朝着构建通用对话系统这一最终目标迈出第一步,我们着手构建一个跨语言状态追踪框架。具体而言,我们假设存在一种带有对话信念追踪标注的源语言,而目标语言没有任何形式的标注对话数据。然后,我们为源语言预训练一个可作为教师的状态追踪器,其能够利用易于获取的平行数据。接着,我们将其知识蒸馏并迁移给目标语言中的学生状态追踪器。我们具体讨论了两类常见的平行资源:双语语料库和双语词典,并相应地设计了不同的迁移学习策略。在实验中,我们成功地将英语状态追踪器作为教师,将其知识迁移至意大利语和德语追踪器,并取得了有前景的结果。
引用
@article{arxiv.1808.06244,
title = {XL-NBT: A Cross-lingual Neural Belief Tracking Framework},
author = {Wenhu Chen and Jianshu Chen and Yu Su and Xin Wang and Dong Yu and Xifeng Yan and William Yang Wang},
journal= {arXiv preprint arXiv:1808.06244},
year = {2018}
}
备注
13 pages, 5 figures, 3 tables, accepted to EMNLP 2018 conference