中文

CroPrompt:用于零样本口语语义理解的跨任务交互式提示

计算与语言 2024-06-18 v1

摘要

構位填充和意图检测是口语语义理解(SLU)中两个高度相关的任务。近期的SLU研究试图探索大语言模型中的零样本提示技术,以缓解数据稀缺问题。然而,现有的提示工作忽略了SLU中的跨任务交互信息,导致性能次优。为解决此问题,本文提出了面向SLU的首个工作——跨任务交互式提示(CroPrompt),使模型能够在SLU中利用跨相关任务的信息交换。此外,我们进一步引入多任务自洽机制,以缓解意图信息注入导致的误差传播。我们在标准SLU基准上进行了大量实验,结果表明CroPrompt consistently优于现有提示方法。此外,多任务自洽机制能够有效缓解误差传播问题,从而提升性能。我们希望本工作能激发更多关于SLU中跨任务提示的研究。

关键词

引用

@article{arxiv.2406.10505,
  title  = {CroPrompt: Cross-task Interactive Prompting for Zero-shot Spoken Language Understanding},
  author = {Libo Qin and Fuxuan Wei and Qiguang Chen and Jingxuan Zhou and Shijue Huang and Jiasheng Si and Wenpeng Lu and Wanxiang Che},
  journal= {arXiv preprint arXiv:2406.10505},
  year   = {2024}
}