基于迁移学习的日语情感分析研究
计算与语言
2019-06-10 v3 机器学习
摘要
文本分类方法通常要求特定任务的模型架构与海量标注数据集。近来,得益于基于文本的迁移学习技术的兴起,可以以无监督方式预训练语言模型,并利用它们有效地执行下游任务。本工作中我们聚焦于日语,并展示了迁移学习技术在文本分类中的潜在用途。具体而言,我们在乐天产品评论与雅虎电影评论数据集上执行二分类与多分类情感分类。我们表明,基于迁移学习的方法优于用三倍数据训练的特定任务模型。此外,这些方法的性能与仅用 1/30 数据预训练语言建模时相当。我们将预训练模型与代码作为开源发布。
引用
@article{arxiv.1905.09642,
title = {An Investigation of Transfer Learning-Based Sentiment Analysis in Japanese},
author = {Enkhbold Bataa and Joshua Wu},
journal= {arXiv preprint arXiv:1905.09642},
year = {2019}
}