ZiGong 1.0：面向金融信用评估的大型语言模型
计算与语言
2025-12-09 v1 计算工程、金融与科学
摘要
大型语言模型 (LLM) 在各类通用自然语言处理 (NLP) 任务中展现出强大的性能。然而，在金融信用评估等专业应用领域，其效果仍不理想，主要源于对这些任务所需的专业金融知识。为此本文提出了 ZiGong，一种基于 Mistral 的模型，通过多任务监督微调进行强化。为特别克服模型在金融语境下的幻觉问题，本文引入一种新颖的数据修剪方法。该方法利用代理模型对训练样本进行评分，然后将过滤后的数据与原始数据集相结合用于模型训练。这种数据精炼策略有效降低了 LLM 在金融领域的幻觉现象，同时保持了下游金融应用的可靠性。实验结果表明，我们的方法在实际金融场景中显著提升了模型的鲁棒性和预测准确性。
引用
@article{arxiv.2502.16159,
title = {ZiGong 1.0: A Large Language Model for Financial Credit},
author = {Yu Lei and Zixuan Wang and Chu Liu and Tongyao Wang},
journal= {arXiv preprint arXiv:2502.16159},
year = {2025}
}