SKEP：用于情感分析的情感知识增强预训练
计算与语言
2020-05-21 v2
摘要
近年来，在预训练方法的帮助下，情感分析取得了显著进展。然而，情感知识（如情感词汇和方面-情感对）在预训练过程中被忽视，尽管它们在传统情感分析方法中被广泛使用。在本文中，我们引入了情感知识增强预训练（SKEP），旨在为多种情感分析任务学习统一的情感表示。在自动挖掘知识的帮助下，SKEP 进行情感掩码并构建三个情感知识预测目标，从而将词、极性和方面层面的情感信息嵌入预训练的情感表示中。特别地，方面-情感对的预测被转化为多标签分类，旨在捕捉对中词之间的依赖关系。在三种情感任务上的实验表明，SKEP 显著优于强预训练基线，并在大多数测试数据集上取得了新的 SOTA 结果。我们在 https://github.com/baidu/Senta 发布了代码。
引用
@article{arxiv.2005.05635,
title = {SKEP: Sentiment Knowledge Enhanced Pre-training for Sentiment Analysis},
author = {Hao Tian and Can Gao and Xinyan Xiao and Hao Liu and Bolei He and Hua Wu and Haifeng Wang and Feng Wu},
journal= {arXiv preprint arXiv:2005.05635},
year = {2020}
}
备注
Accepted by ACL2020