中文

基于提示池的类增量持续学习用于对话状态跟踪

计算与语言 2023-11-20 v1

摘要

持续学习对对话系统中的对话状态跟踪(DST)至关重要,因为常会遇到用户对新功能的需求。然而,现有多数 DST 持续学习方法在测试时需要任务标识,这在真实应用中是严重限制。本文旨在解决类增量场景下的 DST 持续学习(即测试时任务标识未知)。受近期在对话系统上表现良好的提示微调方法启发,我们提出使用提示池方法,维护一个键值配对的提示池,并根据对话历史与提示键之间的距离从池中选择提示。所提方法能在测试时自动识别任务并选择合适提示。我们在 Schema-Guided Dialog 数据集(SGD)和另一个从真实对话应用收集的数据集上实验。实验结果表明,提示池方法比基线取得高得多的联合目标准确率。结合回放缓冲区后,模型性能可进一步提升。

关键词

引用

@article{arxiv.2311.10271,
  title  = {Prompt Pool based Class-Incremental Continual Learning for Dialog State Tracking},
  author = {Hong Liu and Yucheng Cai and Yuan Zhou and Zhijian Ou and Yi Huang and Junlan Feng},
  journal= {arXiv preprint arXiv:2311.10271},
  year   = {2023}
}