基于 BERT 的方面级情感分析对抗训练
机器学习
2020-10-26 v4 计算与语言
机器学习
摘要
方面级情感分析（ABSA）致力于提取情感及其目标。为帮助神经网络更好地泛化而收集该任务的标注数据可能费力且耗时。作为一种替代方案，可通过在嵌入空间中进行的对抗过程人工生成与真实世界样本相似的数据。尽管这些样本并非真实句子，但已被证明可作为一种正则化方法，使神经网络更鲁棒。本工作中，我们将 Goodfellow 等人（2014）提出的对抗训练应用于 Xu 等人（2019）提出的后训练 BERT（BERT-PT）语言模型，用于情感分析中的方面抽取与方面情感分类两项主要任务。通过对后训练 BERT 的结果进行消融研究改进后，我们提出一种称为 BERT 对抗训练（BAT）的新架构，以在 ABSA 中利用对抗训练。所提模型在两项任务上均优于后训练 BERT。据我们所知，这是首个关于对抗训练在 ABSA 中应用的研究。
引用
@article{arxiv.2001.11316,
title = {Adversarial Training for Aspect-Based Sentiment Analysis with BERT},
author = {Akbar Karimi and Leonardo Rossi and Andrea Prati},
journal= {arXiv preprint arXiv:2001.11316},
year = {2020}
}