面向评论阅读理解与基于方面的情感分析的 BERT 后训练
计算与语言
2019-05-07 v2
摘要
问答在电子商务中扮演着重要角色，因为它使潜在客户能够主动寻求有关产品或服务的 crucial 信息以辅助其购买决策。受近期机器阅读理解（MRC）在正式文档上成功的启发，本文探索将客户评论转化为可用于回答用户问题的大量知识源的潜力。我们称此问题为评论阅读理解（RRC）。据我们所知，尚无已有工作研究 RRC。本工作中，我们首先基于一个流行的基于方面的情感分析基准构建了一个称为 ReviewRC 的 RRC 数据集。由于 ReviewRC 对 RRC（以及基于方面的情感分析）的训练样本有限，我们随后探索了一种在流行语言模型 BERT 上的新颖后训练方法，以增强 BERT 微调用于 RRC 的性能。为展示该方法的通用性，所提出的后训练也应用于一些其他基于评论的任务，如基于方面的情感分析中的方面抽取与方面情感分类。实验结果表明所提出的后训练极为有效。数据集与代码见 https://www.cs.uic.edu/~hxu/。
引用
@article{arxiv.1904.02232,
title = {BERT Post-Training for Review Reading Comprehension and Aspect-based Sentiment Analysis},
author = {Hu Xu and Bing Liu and Lei Shu and Philip S. Yu},
journal= {arXiv preprint arXiv:1904.02232},
year = {2019}
}
备注
accepted by NAACL 2019