一种基于混合Transformer和注意力循环神经网络的鲁棒可解释推文情感分析
计算与语言
2024-11-05 v5 机器学习
摘要
情感分析对于理解公众意见和消费者行为至关重要。现有模型面临语言多样性、泛化性和可解释性的挑战。我们提出了TRABSA，一个混合框架，集成了基于Transformer的架构、注意力机制和BiLSTM网络。利用在1.24亿条推文上训练的RoBERTa，我们弥合了情感分析基准的差距，确保了最先进的准确性。通过来自32个国家和美国各州的推文扩充数据集，我们比较了六种词嵌入技术和三种基于词典的标注技术，选择了最佳方案以实现最优情感分析。TRABSA在准确率上达到94%，在精确率、召回率和F1分数上也有显著提升，优于传统机器学习和深度学习模型。在多样化数据集上的评估表明其一致优越性和泛化性。SHAP和LIME分析增强了可解释性，提高了预测的可信度。我们的研究有助于大流行资源管理，辅助资源规划、政策制定和疫苗接种策略。
引用
@article{arxiv.2404.00297,
title = {A hybrid transformer and attention based recurrent neural network for robust and interpretable sentiment analysis of tweets},
author = {Md Abrar Jahin and Md Sakib Hossain Shovon and M. F. Mridha and Md Rashedul Islam and Yutaka Watanobe},
journal= {arXiv preprint arXiv:2404.00297},
year = {2024}
}