基于高性能优化器的Transformer模型用于预测美国社交媒体内容中的就业情感
计算与语言
2024-10-16 v1 人工智能
摘要
本文基于群体智能优化算法改进Transformer模型，旨在预测美国社交媒体中与就业相关文本内容的情感。通过文本预处理、特征提取和向量化，将文本数据成功转换为数值数据并导入模型进行训练。实验结果表明，在训练过程中，模型准确率从49.27%提升至82.83%，损失值从0.67降至0.35，显著提升了模型在训练集上的性能。根据训练集混淆矩阵分析，训练集准确率为86.15%。测试集的混淆矩阵也表现良好，准确率达82.91%。训练集与测试集之间的准确率差异仅为3.24%，表明模型具有强大的泛化能力。此外，多边形结果评估表明，模型在分类准确率、灵敏度、特异度和曲线下面积（AUC）方面表现良好，Kappa系数为0.66，F-measure为0.80，进一步验证了该模型在社交媒体情感分析中的有效性。本文提出的改进模型不仅提高了社交媒体就业相关文本情感识别的准确率，也具有重要的实际意义。这种基于社交媒体的数据分析方法不仅能够及时捕捉社会动态，还能促使决策者关注公众关切，为改善就业条件提供数据支持。
引用
@article{arxiv.2410.10874,
title = {Optimizing Transformer based on high-performance optimizer for predicting employment sentiment in American social media content},
author = {Feiyang Wang and Qiaozhi Bao and Zixuan Wang and Yanlin Chen},
journal= {arXiv preprint arXiv:2410.10874},
year = {2024}
}
备注
5 pages, 5 figures