CryptoGPT：在分析和分类实时金融新闻方面与 GPT-4 肩并肩的 7B 模型
人工智能
2024-06-21 v1 计算工程、金融与科学
计算与语言
神经与进化计算
摘要
CryptoGPT：一个在特定任务中与 GPT-4 肩并肩的 7B 模型 -- 自动标注与 QLoRA 战略微调的影响。在本文中，我们介绍一种旨在通过 CryptoGPT 在资源有限的工业环境中精炼专门 LLM 的方法。它是一个专为实时 cryptocurrency 市场金融新闻分析设计的 LLM。该项目是在工业背景下启动的。该模型不仅可以对金融信息进行分类，还能提供全面的分析。我们对不同大小相同的 LLM 进行了精炼，如 Mistral-7B 和 LLama-7B，并将其与各种 LLM 进行了比较，如 GPT-3.5 和 GPT-4。我们的目标是在以下几个需求之间找到平衡：1. 保护数据（通过避免将其传输到外部服务器），2. 限制注释成本和时间，3. 控制模型的大小（以管理部署成本），和 4. Maintaining 更好的分析质量。
引用
@article{arxiv.2406.14039,
title = {CryptoGPT: a 7B model rivaling GPT-4 in the task of analyzing and classifying real-time financial news},
author = {Ying Zhang and Matthieu Petit Guillaume and Aurélien Krauth and Manel Labidi},
journal= {arXiv preprint arXiv:2406.14039},
year = {2024}
}
备注
Journ{\'e}e Nationale sur la Fouille de Textes, Pascal CUXAC; Adrien GUILLE; C{\'e}dric LOPEZ, Jun 2024, Lyon (Universit{\'e} Lumi{\`e}re Lyon 2), France