CroPrompt:用于零样本口语语义理解的跨任务交互式提示
计算与语言
2024-06-18 v1
摘要
構位填充和意图检测是口语语义理解(SLU)中两个高度相关的任务。近期的SLU研究试图探索大语言模型中的零样本提示技术,以缓解数据稀缺问题。然而,现有的提示工作忽略了SLU中的跨任务交互信息,导致性能次优。为解决此问题,本文提出了面向SLU的首个工作——跨任务交互式提示(CroPrompt),使模型能够在SLU中利用跨相关任务的信息交换。此外,我们进一步引入多任务自洽机制,以缓解意图信息注入导致的误差传播。我们在标准SLU基准上进行了大量实验,结果表明CroPrompt consistently优于现有提示方法。此外,多任务自洽机制能够有效缓解误差传播问题,从而提升性能。我们希望本工作能激发更多关于SLU中跨任务提示的研究。
引用
@article{arxiv.2406.10505,
title = {CroPrompt: Cross-task Interactive Prompting for Zero-shot Spoken Language Understanding},
author = {Libo Qin and Fuxuan Wei and Qiguang Chen and Jingxuan Zhou and Shijue Huang and Jiasheng Si and Wenpeng Lu and Wanxiang Che},
journal= {arXiv preprint arXiv:2406.10505},
year = {2024}
}