利用BERT中间层进行基于方面的情感分析与自然语言推理
计算与语言
2020-02-13 v1 机器学习
摘要
基于方面的情感分析旨在识别文本中针对给定方面的情感倾向。预训练BERT的微调在该任务上表现优异并达到最先进性能。现有基于BERT的工作仅利用BERT的最后输出层,忽略了中间层中的语义知识。本文探索利用BERT中间层来增强BERT微调性能的可能性。据我们所知,尚无已有工作对此进行研究。为展示通用性,我们还将该方法应用于自然语言推理任务。实验结果证明了所提方法的有效性和通用性。
引用
@article{arxiv.2002.04815,
title = {Utilizing BERT Intermediate Layers for Aspect Based Sentiment Analysis and Natural Language Inference},
author = {Youwei Song and Jiahai Wang and Zhiwei Liang and Zhiyue Liu and Tao Jiang},
journal= {arXiv preprint arXiv:2002.04815},
year = {2020}
}
备注
5 pages, 2 figures