Prompter：用于对话状态跟踪领域自适应的零样本自适应前缀
计算与语言
2023-06-09 v1
摘要
对话状态跟踪（DST）领域的一个挑战是在不使用任何监督数据的情况下将模型适配到新领域，即零样本领域自适应。参数高效迁移学习（PETL）因其鲁棒性有潜力解决该问题。然而，它尚未应用于零样本场景，因为尚不清楚如何以无监督方式应用它。我们的方法 Prompter 利用目标领域槽位的描述生成动态前缀，并将其拼接至每一层自注意力机制的键和值上。这使得在零样本中可使用前缀微调（prefix-tuning）。Prompter 在 MultiWOZ 和 SGD 基准上均优于先前方法。在生成前缀的分析中，我们发现 Prompter 不仅利用了槽位描述的语义，还利用了槽位在对话中共同出现的频率。此外，与基线相比，Prompter 的提升源于其更好地区分“none”值对话槽位的能力。
引用
@article{arxiv.2306.04724,
title = {Prompter: Zero-shot Adaptive Prefixes for Dialogue State Tracking Domain Adaptation},
author = {Taha Aksu and Min-Yen Kan and Nancy F. Chen},
journal= {arXiv preprint arXiv:2306.04724},
year = {2023}
}
备注
Accepted to ACL 2023