CSS：结合自训练与自监督学习的小样本对话状态跟踪
计算与语言
2022-10-12 v1
摘要
小样本对话状态跟踪（DST）是一个现实问题，它使用有限的标注数据来训练 DST 模型。现有的小样本方法主要将从外部标注对话数据（例如来自问答、对话摘要、机器阅读理解任务等）学到的知识迁移到 DST 中，然而收集大量外部标注数据费时费力，且外部数据可能无法有效贡献于 DST 特定任务。在本文中，我们提出了一种名为 CSS 的小样本 DST 框架，它结合了自训练和自监督学习方法。DST 任务的未标注数据被纳入自训练迭代中，其中伪标签由预先在有限标注数据上训练的 DST 模型预测。此外，使用对比自监督方法来学习更好的表示，其中通过 dropout 操作对数据进行增强以训练模型。在 MultiWOZ 数据集上的实验结果表明，我们提出的 CSS 在几种小样本场景中均取得了具有竞争力的性能。
引用
@article{arxiv.2210.05146,
title = {CSS: Combining Self-training and Self-supervised Learning for Few-shot Dialogue State Tracking},
author = {Haoning Zhang and Junwei Bao and Haipeng Sun and Huaishao Luo and Wenye Li and Shuguang Cui},
journal= {arXiv preprint arXiv:2210.05146},
year = {2022}
}
备注
Accepted to AACL 2022