利用自监督改进有限标注对话状态跟踪
计算与语言
2020-10-28 v1 人工智能
摘要
现有对话状态跟踪（DST）模型需要大量标注数据。然而，收集高质量标签代价高昂，尤其在领域数量增加时。本文中，我们解决一个很少被讨论的实际 DST 问题，即在有限标注数据下高效学习。我们提出并研究了两个自监督目标：保持潜在一致性与建模对话行为。我们鼓励 DST 模型在给定扰动输入时具有一致的潜在分布，使其对未见场景更鲁棒。我们还增加了一个辅助话语生成任务，建模对话行为与对话状态之间的潜在关联。实验结果表明，在 MultiWOZ 数据集上仅使用 1% 标注数据时，我们提出的自监督信号可将联合目标准确率提高 8.95%。若联合训练部分未标注数据作为半监督学习，还可额外获得 1.76% 的提升。我们分析并可视化了所提自监督信号如何助力 DST 任务，并希望借此激发未来数据高效的 DST 研究。
引用
@article{arxiv.2010.13920,
title = {Improving Limited Labeled Dialogue State Tracking with Self-Supervision},
author = {Chien-Sheng Wu and Steven Hoi and Caiming Xiong},
journal= {arXiv preprint arXiv:2010.13920},
year = {2020}
}
备注
EMNLP 2020 (findings)