预览、关注与回顾:面向多领域对话状态跟踪的 schema 感知课程学习
计算与语言
2021-06-02 v1
摘要
现有的对话状态跟踪 (DST) 模型以随机顺序使用对话数据进行训练,忽视了数据集中丰富的结构信息。本文提出使用课程学习 (CL) 来更好地利用面向任务对话中的课程结构与 schema 结构。具体而言,我们提出一种模型无关的框架,称为面向对话状态跟踪的 schema 感知课程学习 (SaCLog),其包含一个利用 schema 信息预训练 DST 模型的预览模块、一个用 CL 优化模型的课程模块,以及一个增广误预测数据以强化 CL 训练的回顾模块。我们表明,所提方法在基于 transformer 与基于 RNN 的 DST 模型(TripPy 与 TRADE)上均提升了 DST 性能,并在 WOZ2.0 与 MultiWOZ2.1 上取得了新的最优 (state-of-the-art) 结果。
引用
@article{arxiv.2106.00291,
title = {Preview, Attend and Review: Schema-Aware Curriculum Learning for Multi-Domain Dialog State Tracking},
author = {Yinpei Dai and Hangyu Li and Yongbin Li and Jian Sun and Fei Huang and Luo Si and Xiaodan Zhu},
journal= {arXiv preprint arXiv:2106.00291},
year = {2021}
}
备注
7 pages, 2 figures, accepted to ACL21