通过 Reason-of-Select 蒸馏的持续对话状态追踪

理想的对话系统需要持续获取技能并适应新任务，同时保留先验知识。对话状态追踪（DST）是这些系统中的关键环节，常涉及学习新服务并应对灾难性遗忘，以及一种称为'值选择困境'的关键能力丧失。为解决这些挑战，我们引入了 Reason-of-Select（RoS）蒸馏方法，通过增强小型模型的新型'元推理'能力来实现。元推理采用增强的多领域视角，结合持续学习期间来自领域特定对话的元知识片段。这超越了传统的单视角推理。领域引导过程增强了模型从多个可能值中解析复杂对话的能力。其领域无关特性使不同领域的数据分布对齐，有效缓解了遗忘。此外，两项新颖改进——'多值解析'策略和语义对比推理选择方法——通过生成 DST 特定的选择链并缓解教师推理中的幻觉，显著增强了 RoS，确保了有效且可靠的知识迁移。大量实验验证了我们方法的卓越性能和鲁棒的泛化能力。源代码已提供以供复现。