中文

社会语言学启发的可解释性:以印地英语情感分类为例

计算与语言 2024-02-06 v1 机器学习

摘要

情感分类是自然语言处理(NLP)中一项具有挑战性的任务,原因在于语言表达固有的特异性和主观性,尤其是在语码混合数据中。预训练语言模型(PLMs)在许多任务和语言上都取得了高性能,但这些模型是否学习并能够稳健地应对不同语言间情感表达的差异,仍有待观察。社会语言学研究显示,说印地英语(Hinglish)的人在表达负面情感时会切换到印地语,而在表达正面情感时会切换到英语。为了理解语言模型是否能学习到这些关联,我们在一个印地英语情感分类数据集上,研究了语言对三种预训练语言模型情感预测的影响。通过使用 LIME 和词元级语言识别,我们发现模型确实学习到了语言选择与情感表达之间的这些关联。此外,当任务特定数据稀缺时,在预训练中包含语码混合数据可以增强这种学习。我们还从错误分类中得出结论,模型可能将这种启发式方法过度泛化到其他不适用此社会语言学现象的不常见示例上。

引用

@article{arxiv.2402.03137,
  title  = {Sociolinguistically Informed Interpretability: A Case Study on Hinglish Emotion Classification},
  author = {Kushal Tatariya and Heather Lent and Johannes Bjerva and Miryam de Lhoneux},
  journal= {arXiv preprint arXiv:2402.03137},
  year   = {2024}
}

备注

5 pages, Accepted to SIGTYP 2024 @ EACL