优化性能：紧凑模型如何通过微调匹配或超越 GPT 的分类能力
计算与语言
2024-09-19 v1 统计金融
摘要
在本文中，我们证明了非生成式小型模型（如 FinBERT 和 FinDRoBERTa）在经过微调后，在金融新闻情感分析的零样本学习设置中，性能可以优于 GPT-3.5 和 GPT-4 模型。这些微调模型在确定来自彭博社的每日金融新闻摘要的市场情绪任务上，表现出与经过微调的 GPT-3.5 相当的结果。为了微调和比较这些模型，我们创建了一个新颖的数据库，该数据库为每条新闻分配一个市场评分，无需人工解释偏差，系统地识别所提及的公司并分析其股票是上涨、下跌还是保持中性。此外，本文表明孔多塞陪审团定理的假设不成立，这表明微调后的小模型与微调后的 GPT 模型并非独立，显示出行为相似性。最后，生成的微调模型已在 HuggingFace 上公开发布，为金融情感分析和文本分类的进一步研究提供了资源。
引用
@article{arxiv.2409.11408,
title = {Optimizing Performance: How Compact Models Match or Exceed GPT's Classification Capabilities through Fine-Tuning},
author = {Baptiste Lefort and Eric Benhamou and Jean-Jacques Ohana and David Saltiel and Beatrice Guez},
journal= {arXiv preprint arXiv:2409.11408},
year = {2024}
}