无需指令数据通过持续预训练和模型合并构建金融领域指令微调大语言模型
计算与语言
2024-10-01 v1 综合经济学
计算金融
经济学
摘要
本文提出了一种无需指令数据即可构建金融领域指令微调大语言模型（LLMs）的新方法。传统上，开发此类领域特定LLMs需要大量数据集和显著计算资源用于持续预训练和指令微调。我们的研究提出了一种更简单的方法，结合了领域特定的持续预训练与模型合并。鉴于通用预训练LLMs及其指令微调版本通常公开可用，可以利用它们获得必要的指令任务向量。通过将其与领域特定的预训练向量合并，我们可以有效地创建金融领域的指令微调LLMs，而无需额外的指令数据。我们的过程包括两个步骤：首先，对金融数据进行持续预训练；其次，将指令微调向量与领域特定的预训练向量合并。我们的实验证明了成功构建了金融领域的指令微调LLMs。该方法的一个主要优势是指令微调向量和领域特定预训练向量几乎是独立的。这种独立性使我们的方法非常有效。本研究中开发的日语金融指令微调LLMs可在https://huggingface.co/pfnet/nekomata-14b-pfn-qfin-inst-merge获取。
引用
@article{arxiv.2409.19854,
title = {The Construction of Instruction-tuned LLMs for Finance without Instruction Data Using Continual Pretraining and Model Merging},
author = {Masanori Hirano and Kentaro Imajo},
journal= {arXiv preprint arXiv:2409.19854},
year = {2024}
}
备注
9 pages