语言细微差别对大语言模型情感分析影响:翻译、讽刺与表情符号
计算与语言
2025-04-09 v1 机器学习
摘要
大语言模型 (LLMs) 在各种任务中展现了惊人的性能,包括情感分析。然而,数据质量——特别是来自社交媒体的数据——会显著影响其准确性。本研究探讨了文本细微差别(包括表情符号和讽刺)如何影响情感分析,特别关注通过文本翻译技术提高数据质量。为解决缺乏标注讽刺数据的问题,作者创建了一个包含5929条推文的人工标注数据集,使我们能够评估LLM在各种讽刺情境下的表现。结果表明,当使用与核能相关的主题特定数据集进行微调时,这些模型无法准确理解讽刺推文的情感,仅达到30%准确率,这表明数据多样性不足,需要外部干预如讽刺移除来提高模型准确率。讽刺移除可提高情感准确率最高达21%。相比之下, trained on general tweet datasets的LLMs(涵盖更广泛的主题范围)在预测讽刺推文情感方面表现显著提升(达60%准确率),表明纳入通用文本数据可增强讽刺检测能力。本研究还利用对抗性文本增强,显示通过对文本进行小幅修改以创建合成文本变体,显著提高了模型对讽刺推文的鲁棒性和准确率(约85%)。此外,对带碎片化语言的推文进行文本翻译,可将约40%的低置信度标签转化为高置信度标签,提高了LLM情感分析准确率6%。
引用
@article{arxiv.2504.05603,
title = {On the Impact of Language Nuances on Sentiment Analysis with Large Language Models: Paraphrasing, Sarcasm, and Emojis},
author = {Naman Bhargava and Mohammed I. Radaideh and O Hwang Kwon and Aditi Verma and Majdi I. Radaideh},
journal= {arXiv preprint arXiv:2504.05603},
year = {2025}
}
备注
21 pages, 10 Tables, 5 figures