利用多语言 Transformer 与自动翻译数据增强改进非英语推文情感分析
计算与语言
2020-10-08 v1
摘要
与一般文本相比，推文是一种特定的文本数据。尽管在过去十年中英语推文情感分析已非常流行，但对于非英语语言仍难以找到大规模标注语料库。Transformer 模型在自然语言处理中的近期兴起使得在许多任务上取得无与伦比的性能成为可能，但这些模型需要相当数量的文本来适应推文领域。我们提出使用多语言 Transformer 模型，在英语推文上对其进行预训练，并应用自动翻译进行数据增强，以使模型适应非英语语言。我们在法语、西班牙语、德语和意大利语上的实验表明，所提出的技术是在非英语语言的小规模推文语料库上改进 Transformer 结果的一种有效方法。
引用
@article{arxiv.2010.03486,
title = {Improving Sentiment Analysis over non-English Tweets using Multilingual Transformers and Automatic Translation for Data-Augmentation},
author = {Valentin Barriere and Alexandra Balahur},
journal= {arXiv preprint arXiv:2010.03486},
year = {2020}
}
备注
Accepted to COLING2020