中文

没有语言是一座孤岛:在金融大语言模型、指令数据与基准评测中统一中英双语

计算工程、金融与科学 2024-08-19 v3 计算与语言

摘要

尽管大语言模型(LLM)的发展显著推动了金融分析,但其应用主要局限于单一语言领域,尚未挖掘中英双语能力的潜力。为弥合这一鸿沟,我们引入了 ICE-PIXIU,将 ICE-INTENT 模型与 ICE-FLARE 基准无缝融合,用于双语金融分析。ICE-PIXIU 独特地整合了一系列中文任务,以及翻译和原始的英文数据集,丰富了双语金融建模的广度和深度。它提供了对多种模型变体的无限制访问、大量多样化的跨语言和多模态指令数据,以及带有专家标注的评估基准,包含 10 项 NLP 任务、20 项双语特定任务,总计 95k 数据集。我们的全面评估强调了纳入这些双语数据集的优势,特别是在翻译任务和利用原始英文数据方面,提升了金融语境下的语言灵活性和分析敏锐度。值得注意的是,ICE-INTENT 在双语环境中展示出对传统 LLM 和现有金融 LLM 的显著改进,凸显了稳健的双语数据对金融 NLP 准确性和有效性的深远影响。

关键词

引用

@article{arxiv.2403.06249,
  title  = {No Language is an Island: Unifying Chinese and English in Financial Large Language Models, Instruction Data, and Benchmarks},
  author = {Gang Hu and Ke Qin and Chenhan Yuan and Min Peng and Alejandro Lopez-Lira and Benyou Wang and Sophia Ananiadou and Jimin Huang and Qianqian Xie},
  journal= {arXiv preprint arXiv:2403.06249},
  year   = {2024}
}

备注

19 pages, 3 figures, 12 tables, including Appendix