LLM 对金融市场了解多少?基于 Reddit 市场情感分析的案例研究
计算与语言
2022-12-23 v1 人工智能
机器学习
社会与信息网络
摘要
对社交媒体内容进行市场情感分析需要金融市场和社交媒体行话两方面的知识,这对人类标注者而言是一项具有挑战性的任务。由此导致的高质量标注数据缺乏,阻碍了传统的监督学习方法。相反,我们使用大型语言模型(LLM)的半监督学习方法来处理这一问题。我们的流程利用 LLM 为 Reddit 帖子生成弱金融情感标签,然后使用该数据训练一个可部署于生产环境的小模型。我们发现,提示 LLM 生成思维链摘要并强制其经过多条推理路径有助于生成更稳定、更准确的标签,而使用回归损失则进一步提升了蒸馏质量。仅使用少量提示,最终模型的性能便与现有的监督模型相当。尽管我们模型的生产应用受伦理考量限制,但其具有竞争力的表现表明,使用 LLM 处理原本需要高技能标注的任务具有巨大潜力。
引用
@article{arxiv.2212.11311,
title = {What do LLMs Know about Financial Markets? A Case Study on Reddit Market Sentiment Analysis},
author = {Xiang Deng and Vasilisa Bashlovkina and Feng Han and Simon Baumgartner and Michael Bendersky},
journal= {arXiv preprint arXiv:2212.11311},
year = {2022}
}