金融领域大语言模型综述
计算与语言
2025-01-14 v1 综合金融
摘要
大型语言模型在各种各样的自然语言处理（NLP）任务中展现出了卓越的能力，并引起了包括金融服务在内的多个领域的关注。尽管对通用领域 LLM 进行了广泛的研究，且其在金融领域具有巨大潜力，但金融 LLM 的研究仍然有限。本综述全面概述了 FinLLM，包括其历史、技术、性能以及机遇与挑战。首先，我们按时间顺序概述了从通用领域预训练语言模型到当前 FinLLM 的发展，包括 GPT 系列、选定的开源 LLM 以及金融语言模型。其次，我们比较了金融 PLM 和 FinLLM 中使用的五种技术，包括训练方法、训练数据和微调方法。第三，我们总结了六项基准任务和数据集的性能评估。此外，我们提供了八项高级金融 NLP 任务和数据集，用于开发更复杂的 FinLLM。最后，我们讨论了 FinLLM 面临的机遇和挑战，例如幻觉、隐私和效率。为了支持金融领域的 AI 研究，我们在 GitHub 上整理了一套可公开获取的数据集和评估基准。
引用
@article{arxiv.2402.02315,
title = {A Survey of Large Language Models in Finance (FinLLMs)},
author = {Jean Lee and Nicholas Stevens and Soyeon Caren Han and Minseok Song},
journal= {arXiv preprint arXiv:2402.02315},
year = {2025}
}
备注
More information on https://github.com/adlnlp/FinLLMs