利用测试时自适应技术处理涉及英语方言的自然语言理解任务
计算与语言
2025-10-22 v2 机器学习
摘要
测试时域适应（TTDA）是一种无需使用标记数据集即可帮助模型在不同域、任务和分布之间泛化的优秀方法。因此，TTDA 在自然语言处理（NLP）中处理方言情境下非常有用，因为模型常常是在标准美式英语（SAE）上训练的，却在印度英语（IndE）、新加坡英语（SingE）或尼日利亚英语（NgE）上进行评估，而这些分布与前者有显著差异。尤其值得一提的是，方言数据集稀缺。本文我们探索了最著名的TTDA技术之一——SHOT在方言NLP中的应用。我们对SHOT在不同方言GLUE组合上进行微调和评估。我们的发现表明，在缺乏标记数据集的情况下，SHOT是一种可行的技术。我们还在理论上提出了方言间隙的概念，并显示其与SHOT有效性之间存在正相关性。我们还发现，在许多情况下，对SAE进行微调的性能高于对方言数据进行微调。
引用
@article{arxiv.2503.12858,
title = {Harnessing Test-time Adaptation for NLU tasks Involving Dialects of English},
author = {Duke Nguyen and Aditya Joshi and Flora Salim},
journal= {arXiv preprint arXiv:2503.12858},
year = {2025}
}