基于逆向提示的生成式零样本提示学习用于跨领域槽填充
计算与语言
2023-07-07 v1
摘要
零样本跨领域槽填充旨在将知识从有标注的源领域迁移到无标注的目标领域。现有模型要么编码槽描述与示例，要么使用启发式规则设计手工问题模板，存在泛化能力或鲁棒性较差的问题。本文提出一种用于跨领域槽填充的生成式零样本提示学习框架，相比以往工作在泛化性和鲁棒性上均有提升。此外，我们引入一种新颖的逆向提示策略以区分不同槽类型，避免多重预测问题，并采用高效的提示微调策略，仅训练较少的提示参数即可获得更高性能。实验与分析证明了我们所提框架的有效性，尤其在未见槽上取得巨大提升（+13.44% F1）。
引用
@article{arxiv.2307.02830,
title = {Generative Zero-Shot Prompt Learning for Cross-Domain Slot Filling with Inverse Prompting},
author = {Xuefeng Li and Liwen Wang and Guanting Dong and Keqing He and Jinzheng Zhao and Hao Lei and Jiachi Liu and Weiran Xu},
journal= {arXiv preprint arXiv:2307.02830},
year = {2023}
}
备注
Accepted by the Findings of ACL2023