基于骨架辅助提示迁移的少样本对话摘要方法

在实际场景中，由于高质量对话摘要的标注成本高，用于对话摘要的标注样本通常有限(即少样本)。为从少样本高效学习，已有工作利用来自其他下游任务的大量标注数据，并在提示微调(prompt tuning)中执行提示迁移以实现跨任务知识迁移。然而，现有的通用提示迁移技术缺乏对对话特定信息的考量。本文聚焦于改进从对话状态跟踪到对话摘要的提示迁移，提出骨架辅助提示迁移(SAPT)，其将骨架生成作为额外监督，充当连接不同源任务与目标任务的中介，从而使模型更好地利用对话状态信息。为自动抽取对话骨架作为骨架生成的监督训练数据，我们设计了一种基于扰动探针的新颖方法，无需标注工作亦无需领域知识。在此类骨架上训练模型亦有助于在提示迁移过程中保持模型能力。我们的方法显著优于现有基线。深入分析证明了本方法在促进少样本对话摘要中跨任务知识迁移的有效性。