用于金融情感分析的预训练大语言模型
计算与语言
2024-01-11 v1 人工智能
摘要
金融情感分析是指将金融文本内容分类为情感类别（例如，积极、消极和中性）。在本文中，我们专注于金融新闻标题的分类，由于缺乏大量的训练样本，这是一项具有挑战性的任务。为了克服这一困难，我们提出采用预训练的大语言模型（LLMs）[1, 2, 3] 来解决这个问题。LLMs 通过海量文本语料库训练而成，在文本理解方面具有优势，并且可以有效地适应特定领域的任务，同时只需要极少量的训练样本。特别是，我们使用监督微调（SFT）技术 [4] 对开源的 Llama2-7B 模型（2023）进行了适配。实验评估表明，即使使用 7B 模型（对于 LLMs 来说相对较小），我们的方法也显著优于先前的最先进算法。
引用
@article{arxiv.2401.05215,
title = {Pre-trained Large Language Models for Financial Sentiment Analysis},
author = {Wei Luo and Dihong Gong},
journal= {arXiv preprint arXiv:2401.05215},
year = {2024}
}