面向越南语评论情感分析的 BERT 微调
计算与语言
2020-11-23 v1 机器学习
摘要
情感分析是自然语言处理（NLP）领域的一项重要任务，其旨在评估和分析用户对特定问题的反馈数据。已有许多深度学习模型被提出以应对该任务，包括近期提出的基于 Transformer 的双向编码器表示（BERT）模型。在本文中，我们针对越南语评论数据集上的情感分析任务实验了两种 BERT 微调方法：1）仅使用 [CLS] 标记作为附加前馈神经网络输入的方法；2）使用所有 BERT 输出向量作为分类输入的方法。在两个数据集上的实验结果表明，使用 BERT 的模型略优于使用 GloVe 和 FastText 的其他模型。此外，就本研究采用的数据集而言，我们提出的 BERT 微调方法所生成的模型性能优于原始 BERT 微调方法。
引用
@article{arxiv.2011.10426,
title = {Fine-Tuning BERT for Sentiment Analysis of Vietnamese Reviews},
author = {Quoc Thai Nguyen and Thoai Linh Nguyen and Ngoc Hoang Luong and Quoc Hung Ngo},
journal= {arXiv preprint arXiv:2011.10426},
year = {2020}
}