构建用于改进特定领域大语言模型推理能力的合成指令数据集：以日本金融领域为例
机器学习
2026-03-03 v1 人工智能
计算与语言
摘要
在针对特定领域调整大语言模型时，实现领域专业性与推理能力的双重目标仍是一个迫切挑战。本研究提出了一种通用方法，用于从领域特定词汇出发构建高质量的合成指令数据。作为演示，我们将该方法应用于金融领域，构建了约95亿token规模的包含链式思维推理痕迹的大型指令数据集。评估结果表明，我们的方法在金融基准测试中优于基线模型，证明了其有效性。我们还报告了推理痕迹长度对性能影响及其局限性。最后，我们在https://huggingface.co/nri-ai 上开源了模型和数据集。
引用
@article{arxiv.2603.01353,
title = {Constructing Synthetic Instruction Datasets for Improving Reasoning in Domain-Specific LLMs: A Case Study in the Japanese Financial Domain},
author = {Yuma Okochi and Fabio Milentiansen Sim and Tomoyasu Okada},
journal= {arXiv preprint arXiv:2603.01353},
year = {2026}
}
备注
8 pages, 2 figures. Japanese version published in NLP2026