零样跨语言迁移学习在遥远语言对日语-印尼语情感分类中的适用性分析
计算与语言
2024-12-25 v1 人工智能
摘要
本研究探讨了使用 XLM-R 预训练模型进行从英语到日语和印尼语的零样跨语言迁移学习的适用性。将结果与若干先前工作进行比较，包括采用类似零样方法或完全监督方法的模型，以提供对 XLM-R 在跨语言迁移学习中能力的概览。我们的模型在日语数据集中取得最佳成绩，在其他日语和印尼语数据集上取得可比成绩，均未使用目标语言进行训练。此外，结果表明，可以训练一个多语言模型，而不是为每个语言各训练一个模型，也能实现令人满意的结果。
引用
@article{arxiv.2412.18188,
title = {On the Applicability of Zero-Shot Cross-Lingual Transfer Learning for Sentiment Classification in Distant Language Pairs},
author = {Andre Rusli and Makoto Shishido},
journal= {arXiv preprint arXiv:2412.18188},
year = {2024}
}
备注
Accepted at the 28th Annual Meeting of the Association for Natural Language Processing (NLP2022). Published version available at https://www.anlp.jp/proceedings/annual_meeting/2022/pdf_dir/A6-1.pdf