TADA：面向英语的任务无关方言适配器
计算与语言
2023-11-15 v1
摘要
大语言模型（LLM）作为自然语言处理（NLP）应用的主导起点，对于标准美式英语（SAE）以外英语方言的使用者具有更高的失败率。先前工作利用任务特定数据或合成数据增强来解决此问题，二者均需针对每个方言与任务组合进行干预。这带来了可扩展性问题，阻碍了鲁棒方言英语 NLP 的广泛采用。我们引入了一种简单而有效的任务无关方言适配方法，通过使用适配器对齐非 SAE 方言，并将其与来自 SAE 的任务特定适配器组合。任务无关方言适配器（TADA）在 GLUE 基准的 4 种方言变体上提升了方言鲁棒性，且无需任务特定监督。
引用
@article{arxiv.2305.16651,
title = {TADA: Task-Agnostic Dialect Adapters for English},
author = {Will Held and Caleb Ziems and Diyi Yang},
journal= {arXiv preprint arXiv:2305.16651},
year = {2023}
}
备注
5 Pages; ACL Findings Paper 2023