微调预训练多语言 BERT 模型用于印尼语基于方面的情感分析
计算与语言
2021-03-08 v1
摘要
尽管此前已有研究使用 CNN 和 XGBoost 对印尼语酒店领域评论进行基于方面的情感分析(ABSA),但其模型在测试数据上泛化不佳,且大量未登录词导致了误分类情况。如今,众多 NLP 任务的最先进结果均通过利用预训练语言表示取得。在本文中,我们旨在引入 foremost 的语言表示模型之一 BERT,对印尼语评论数据集执行 ABSA。通过将多语言 BERT(m-BERT)与任务转换方法相结合,我们相较先前研究的结果在 F1 分数上取得了 8% 的显著提升。
引用
@article{arxiv.2103.03732,
title = {Fine-tuning Pretrained Multilingual BERT Model for Indonesian Aspect-based Sentiment Analysis},
author = {Annisa Nurul Azhar and Masayu Leylia Khodra},
journal= {arXiv preprint arXiv:2103.03732},
year = {2021}
}