面向目标情感分析的大语言模型
计算与语言
2024-04-19 v1
摘要
在本文中，我们研究了使用基于解码器的生成式Transformer从俄语新闻文章中提取对命名实体的情感。我们研究了指令微调的大语言模型（LLM）的情感分析能力。我们在研究中考虑了RuSentNE-2023数据集。第一组实验旨在评估具有封闭和开放透明度的LLM的零样本能力。第二组涵盖了使用“思维链”（CoT）三跳推理框架（THoR）对Flan-T5进行微调。我们发现零样本方法的结果与基线微调编码器Transformer（BERT-base）的结果相似。使用THoR微调的Flan-T5模型在基础尺寸模型上相比零样本实验至少实现了5%的提升。在RuSentNE-2023上情感分析的最佳结果由微调的Flan-T5-xl实现，它超越了之前最先进的基于Transformer的分类器的结果。我们的CoT应用框架已公开：https://github.com/nicolay-r/Reasoning-for-Sentiment-Analysis-Framework
引用
@article{arxiv.2404.12342,
title = {Large Language Models in Targeted Sentiment Analysis},
author = {Nicolay Rusnachenko and Anton Golubev and Natalia Loukachevitch},
journal= {arXiv preprint arXiv:2404.12342},
year = {2024}
}
备注
Fine-tuned Flan-T5-xl outperforms the top #1 results of transformer-based classifier in RuSentNE-2023 competition, to appear in Lobachevskii Journal of Mathematics No.8/2024 proceedings