借助辅助任务提升方言语义槽位与意图检测能力：以巴伐利亚方言为案例的多方言研究
计算与语言
2025-01-08 v1
摘要
可靠的语义槽位与意图检测(SID)是自然语言理解中至关重要的任务，广泛应用于数字助理等应用。单层Encoder-only transformer模型在针对高资源语言微调后通常能表现良好，但在方言数据上表现较差，因为方言缺乏标准化形式，训练数据稀缺且昂贵。我们探索了针对SID进行零样本迁移学习，聚焦于多个巴伐利亚方言，其中我们发布了一个用于慕尼黑方言的新数据集。我们评估了在巴伐利亚方言上训练的辅助任务模型，并比较了联合多任务学习与中间任务训练方法。我们还比较了三种类型的辅助任务：token级句法任务、命名实体识别(NER)和语言建模。我们发现，包含的辅助任务对槽位填充的影响大于意图分类(其中NER的正面影响最大)，且中间任务训练能获得更一致的性能提升。我们的最佳实验方案在巴伐利亚方言的意图分类性能提升5.1个百分点，槽位填充F1提升8.4个百分点。
引用
@article{arxiv.2501.03863,
title = {Improving Dialectal Slot and Intent Detection with Auxiliary Tasks: A Multi-Dialectal Bavarian Case Study},
author = {Xaver Maria Krückl and Verena Blaschke and Barbara Plank},
journal= {arXiv preprint arXiv:2501.03863},
year = {2025}
}
备注
VarDial @ COLING 2025