T-BERT——融合主题模型与BERT的微博情感分析模型
计算与语言
2021-06-03 v1 人工智能
摘要
情感分析（SA）近年来已成为一个广泛的研究领域，影响着电子商务、消费者业务和政治等多样化领域，其驱动力来自社交媒体平台日益增加的采用和使用。从此类场景中涌现的无监督短文本中提取主题和情感具有挑战性，因为它们可能包含比喻性词语、刺耳数据以及单个词或短语多种可能含义并存，这些都导致获得不正确的主题。大多数先前的研究基于干净数据集上的特定主题/修辞/聚焦内容。在本文报道的工作中，展示了BERT（Bidirectional Encoder Representations from Transformers）在从热门微博平台获取的原始实时数据集上进行情感分类任务的有效性。提出了一种新颖的T-BERT框架，以展示将潜在主题与上下文BERT嵌入相结合所能获得的增强性能。数值实验在约42000个数据集的集成上于NimbleBox.ai平台进行，硬件配置为Nvidia Tesla K80（CUDA）、4核CPU、15GB RAM，运行在隔离的Google Cloud Platform实例上。实证结果表明，该模型在BERT中加入主题后性能提升，且使用所提方法的BERT在情感分类上准确率达90.81%。
引用
@article{arxiv.2106.01097,
title = {T-BERT -- Model for Sentiment Analysis of Micro-blogs Integrating Topic Model and BERT},
author = {Sarojadevi Palani and Prabhu Rajagopal and Sidharth Pancholi},
journal= {arXiv preprint arXiv:2106.01097},
year = {2021}
}