预训练语言编码器是方面情感三元组抽取的自然标注框架
计算与语言
2022-08-23 v1
摘要
方面情感三元组抽取（ASTE）旨在将方面、观点的跨度及其情感关系作为情感三元组抽取出来。现有工作通常将跨度检测表述为一维令牌标注问题，并用令牌对的二维标注矩阵对情感识别建模。此外，通过利用 BERT 等预训练语言编码器（PLE）的令牌表示，它们可取得更好性能。然而，它们仅将 PLE 用作特征提取器来构建自身模块，却从未深入考察 PLE 包含哪些具体知识。本文中，我们认为无需进一步设计模块来捕获 ASTE 的归纳偏置，PLE 自身已包含用于一维与二维标注的“足够”特征：（1）令牌表示包含令牌本身的上下文语义，故此层级特征携带一维标注的必要信息。（2）不同 PLE 层的注意力矩阵可进一步捕获令牌对中存在的多级语言知识，有益于二维标注。（3）此外，经简单变换，这两类特征亦可分别轻松转换为二维标注矩阵与一维标注序列，从而进一步提升标注结果。如此，PLE 可成为自然的标注框架并达到新的最优水平，这由大量实验与深入分析所验证。
引用
@article{arxiv.2208.09617,
title = {Pretrained Language Encoders are Natural Tagging Frameworks for Aspect Sentiment Triplet Extraction},
author = {Yanjie Gou and Yinjie Lei and Lingqiao Liu and Yong Dai and Chunxu Shen and Yongqi Tong},
journal= {arXiv preprint arXiv:2208.09617},
year = {2022}
}