面向任务型对话系统的基于示例选择的灾难性遗忘克服
机器学习
2024-05-21 v1 人工智能
摘要
智能任务型对话系统（ToD）期望持续获取新知识，即持续学习（CL），这对于适应不断变化的用户需求至关重要。然而，面对长序列课程时，灾难性遗忘会显著降低模型性能。本文旨在克服ToD中的遗忘问题，提出了一种基于超梯度的示例策略方法（HESIT），该方法采样有影响力的示例进行周期性重训练。HESIT并非单方面观察数据或模型，而是采用一种深刻的示例选择策略，在为每个任务领域选择示例时考虑训练模型的整体性能。具体而言，HESIT通过追踪训练数据在优化过程中的超梯度来分析其影响。此外，HESIT避免估计Hessian矩阵，使其适用于带有大型预训练模型的ToD。实验结果表明，HESIT通过示例选择有效缓解了灾难性遗忘，并在ToD的最大持续学习基准上所有指标均达到了最先进性能。
引用
@article{arxiv.2405.10992,
title = {Overcoming Catastrophic Forgetting by Exemplar Selection in Task-oriented Dialogue System},
author = {Chen Chen and Ruizhe Li and Yuchen Hu and Yuanyuan Chen and Chengwei Qin and Qiang Zhang},
journal= {arXiv preprint arXiv:2405.10992},
year = {2024}
}
备注
ACL 2024