基于高效且有效提示的多语言关系分类
计算与语言
2022-10-27 v2 机器学习
摘要
提示预训练语言模型在各种NLP任务上取得了令人印象深刻的性能，尤其在低数据情形下。尽管提示方法在单语设定中取得成功，但由于手工构建多语言提示的高成本，基于提示的方法在多语言场景中的应用仍局限于少数任务。本文首次开展基于提示的多语言关系分类（RC）研究，提出一种高效且有效的方法，从关系三元组构建提示，且仅需对类标签进行最少量的翻译。我们在全监督、少样本和零样本场景下评估其性能，并分析其在14种语言、提示变体以及跨语言设定下以英语任务训练的有效性。我们发现，在全监督和少样本场景中，我们的提示方法均击败了具有竞争力的基线：微调XLM-R_EM与空提示。在零样本实验中，它也大幅优于随机基线。我们的方法几乎不需要语言内知识，可作为类似多语言分类任务的强基线。
引用
@article{arxiv.2210.13838,
title = {Multilingual Relation Classification via Efficient and Effective Prompting},
author = {Yuxuan Chen and David Harbecke and Leonhard Hennig},
journal= {arXiv preprint arXiv:2210.13838},
year = {2022}
}
备注
EMNLP 2022