基于迁移学习与辅助标签的酒店评论方面词与观点词抽取
计算与语言
2020-10-02 v5
摘要
方面词与观点词抽取是基于方面的情感分析(ABSA)中的关键步骤。本研究聚焦于评估使用预训练 BERT (Devlin et al., 2018) 对印尼语(bahasa Indonesia)酒店评论中的词元进行分类的迁移学习。主要挑战在于评论文本的语言非正式性。通过利用多语言模型的迁移学习,我们在词元级 F1 分数上取得了与最先进的 Bi-LSTM 模型相比至多 2% 的差距,且训练轮数更少(3 轮对比 200 轮)。该微调模型在实体级别上明显优于 Bi-LSTM 模型。此外,我们提出了一种方法,将带辅助标签的 CRF 作为基于 BERT 的模型的输出层。CRF 的加入进一步提升了词元级和实体级的 F1 分数。
引用
@article{arxiv.1909.11879,
title = {Aspect and Opinion Term Extraction for Hotel Reviews using Transfer Learning and Auxiliary Labels},
author = {Yosef Ardhito Winatmoko and Ali Akbar Septiandri and Arie Pratama Sutiono},
journal= {arXiv preprint arXiv:1909.11879},
year = {2020}
}
备注
Updated from (Septiandri & Sutiono, 2019)