分析推理类型对跨语言迁移性能的影响
计算与语言
2021-10-07 v1 人工智能
摘要
多语言语言模型在许多语言的复杂任务（如自然语言推理（NLI））中取得了令人印象深刻的零样本准确率。NLI（及等效复杂任务）中的样例常涉及各类子任务，需要不同种类的推理。某些推理类型在单语语境下已被证明更难学习，而在跨语言语境中，类似观察或可揭示零样本迁移效率与少样本样本选择。因此，为探究推理类型对迁移性能的影响，我们提出了一个类别标注的多语言 NLI 数据集，并讨论了将单语标注扩展到多种语言所面临的挑战。我们从统计上观察到推理类型与语言相似性共同作用对迁移性能产生的有趣影响。
引用
@article{arxiv.2110.02386,
title = {Analyzing the Effects of Reasoning Types on Cross-Lingual Transfer Performance},
author = {Karthikeyan K and Aalok Sathe and Somak Aditya and Monojit Choudhury},
journal= {arXiv preprint arXiv:2110.02386},
year = {2021}
}
备注
Workshop on Multilingual Representation Learning (MRL 2021), at Empirical Methods in Natural Language Processing (EMNLP 2021)