基于集成学习和 BERT 架构的学生社交网络文本情感分类模型
计算与语言
2024-08-12 v1 人工智能
摘要
中学生的心理健康评估始终是教育领域的一个关注焦点。本文介绍一种基于 BERT 的新型集成学习网络，采用集成多个分类器以提升模型性能的概念。我们训练了一系列基于 BERT 的学习者，并使用多数投票方法进行组合。我们通过中国的微博收集中学生社交网络文本数据，并将其应用于对中学生社交网络文本情感倾向的分类任务。实验结果表明，集成学习网络的性能优于基线模型，由三个单层 BERT 模型组成的集成模型的性能几乎与三个层的 BERT 模型相当，但需要增加 11.58% 的训练时间。因此，就性能与效率的平衡而言，应优先选择更深的 BERT 网络进行训练。然而，就可解释性而言，网络集成可以提供可接受的解决方案。
引用
@article{arxiv.2408.04849,
title = {Ensemble BERT: A student social network text sentiment classification model based on ensemble learning and BERT architecture},
author = {Kai Jiang and Honghao Yang and Yuexian Wang and Qianru Chen and Yiming Luo},
journal= {arXiv preprint arXiv:2408.04849},
year = {2024}
}