面向东欧V4语言的Twitter/X情感分析中多语言语言模型的微调：基于俄乌冲突情感分类的研究

基于情感分析的子任务（ABSA）是众多方法和基准测试中的标准自然语言处理任务，其中大型语言模型（LLM）代表当前的最先进技术。我们聚焦于基于Twitter/X数据的ABSA子任务，针对编码化语言。针对这些狭窄任务，小规模微调的语言模型常常能超过通用的大型模型，提供可获得且成本较低的解决方案。我们对几种LLM（BERT、BERTweet、Llama2、Llama3、Mistral）进行微调，以分类俄乌冲突背景下针对俄罗斯和乌克兰的情感。训练/测试数据集来自Twitter/X的学术API，限定于V4国家（捷克共和国、斯洛伐克、波兰、匈牙利）的语言。我们测量了在包括翻译、情感目标、零样本学习等多种设置下的模型性能，并以GPT-4为参考模型。我们记录了若干有趣的现象，包括：一些模型在多语言Twitter任务上微调能力远超其他模型，且能够在极小的训练集上达到最先进水平。最后我们确定了提供最佳结果的设置组合。