BERT4GCN:利用BERT中间层增强GCN用于基于方面的情感分类
计算与语言
2021-10-04 v1
摘要
基于图的基于方面的情感分类(ABSC)方法已取得最先进的成果,尤其是在配备来自预训练语言模型(PLMs)的上下文词嵌入时。然而,它们忽略了上下文的序列特征,且尚未充分利用PLMs。本文中,我们提出一种新颖模型BERT4GCN,其集成了来自BERT这一PLM的语法序列特征,以及来自依存图的句法知识。BERT4GCN利用BERT中间层的输出与词间位置信息来增强GCN(图卷积网络),以更好地编码下游分类所用的依存图。实验结果表明,所提出的BERT4GCN优于所有最先进的基线,证明用BERT中间层的语法特征增强GCN可显著赋能ABSC模型。
引用
@article{arxiv.2110.00171,
title = {BERT4GCN: Using BERT Intermediate Layers to Augment GCN for Aspect-based Sentiment Classification},
author = {Zeguan Xiao and Jiarun Wu and Qingliang Chen and Congjian Deng},
journal= {arXiv preprint arXiv:2110.00171},
year = {2021}
}
备注
To appear in EMNLP 2021, 8 pages, 2 figures