面向少样本对话状态跟踪的上下文学习
计算与语言
2022-10-27 v3
摘要
收集和标注任务型对话耗时且昂贵；因此，零样本和少样本学习可极大惠及对话状态跟踪（DST）。在本工作中，我们提出一种用于零样本和少样本学习 DST 的上下文学习（ICL）框架，其中大型预训练语言模型（LM）将测试实例与少量示例作为输入，直接解码对话状态而无需任何参数更新。为了更好地在 LM 提示中利用表格化领域描述，我们将 DST 重新表述为文本到 SQL 的问题。我们还提出一种检索标注对话作为示例的新方法。在 MultiWOZ 上的实证结果表明，我们的方法 IC-DST 在少样本设置下大幅优于先前微调的 state-of-the-art 模型。此外，我们在零样本设置下测试 IC-DST，此时模型仅以固定任务指令作为输入，发现其以较大优势优于先前的零样本方法。
引用
@article{arxiv.2203.08568,
title = {In-Context Learning for Few-Shot Dialogue State Tracking},
author = {Yushi Hu and Chia-Hsuan Lee and Tianbao Xie and Tao Yu and Noah A. Smith and Mari Ostendorf},
journal= {arXiv preprint arXiv:2203.08568},
year = {2022}
}
备注
To appear in Findings of EMNLP 2022