揭秘金融大语言模型的域自适应后训练
计算与语言
2025-10-23 v4 人工智能
计算工程、金融与科学
机器学习
摘要
大语言模型(LLM)的域自适应后训练已成为医学和金融等专业领域的一种有前景的方法。然而，在不同数据和模型配置下，确定最优的适应准则和训练策略仍然存在重大挑战。为解决这些挑战，我们引入了FINDAP，一项针对金融领域LLM域自适应后训练的系统且细粒度的研究。我们的方法包含四个关键组件：FinCap，定义目标领域所需的核心能力；FinRec，一种有效的训练方案，联合优化持续预训练和指令遵循，并利用生成式奖励模型的过程信号提出一种新颖的偏好数据蒸馏方法；FinTrain，一组支持FinRec的精选训练数据集；以及FinEval，一个与FinCap对齐的综合评估套件。由此产生的模型Llama-Fin在广泛的金融任务中取得了最先进的性能。我们的分析还强调了每个后训练阶段如何贡献于不同的能力，揭示了具体的挑战和有效的解决方案，为LLM的域适应提供了宝贵的见解。
引用
@article{arxiv.2501.04961,
title = {Demystifying Domain-adaptive Post-training for Financial LLMs},
author = {Zixuan Ke and Yifei Ming and Xuan-Phi Nguyen and Caiming Xiong and Shafiq Joty},
journal= {arXiv preprint arXiv:2501.04961},
year = {2025}
}
备注
EMNLP 2025 (Oral, ARR best paper nomination)