中文

BERT4GCN:利用BERT中间层增强GCN用于基于方面的情感分类

计算与语言 2021-10-04 v1

摘要

基于图的基于方面的情感分类(ABSC)方法已取得最先进的成果,尤其是在配备来自预训练语言模型(PLMs)的上下文词嵌入时。然而,它们忽略了上下文的序列特征,且尚未充分利用PLMs。本文中,我们提出一种新颖模型BERT4GCN,其集成了来自BERT这一PLM的语法序列特征,以及来自依存图的句法知识。BERT4GCN利用BERT中间层的输出与词间位置信息来增强GCN(图卷积网络),以更好地编码下游分类所用的依存图。实验结果表明,所提出的BERT4GCN优于所有最先进的基线,证明用BERT中间层的语法特征增强GCN可显著赋能ABSC模型。

关键词

引用

@article{arxiv.2110.00171,
  title  = {BERT4GCN: Using BERT Intermediate Layers to Augment GCN for Aspect-based Sentiment Classification},
  author = {Zeguan Xiao and Jiarun Wu and Qingliang Chen and Congjian Deng},
  journal= {arXiv preprint arXiv:2110.00171},
  year   = {2021}
}

备注

To appear in EMNLP 2021, 8 pages, 2 figures