"Finance Wizard"参加FinLLM挑战任务:金融文本摘要
计算与语言
2024-08-08 v1
摘要
本文以"Finance Wizard"团队名称记录了我们在FinNLP-AgentScen 2024共享任务#2:金融文本摘要中的参与情况。文中详述了将基础模型微调为任务特定模型的流水线方法,包括:(1) 通过持续预训练将Llama3 8B基础模型适配至金融领域,(2) 多任务指令微调以进一步赋予模型更多金融相关能力,(3) 最终将模型微调为任务特定的"专家"。我们的模型FinLlama3_sum取得了可嘉的成绩,在其类别中获得第三名,ROUGE-1得分为0.521。
引用
@article{arxiv.2408.03762,
title = {'Finance Wizard' at the FinLLM Challenge Task: Financial Text Summarization},
author = {Meisin Lee and Soon Lay-Ki},
journal= {arXiv preprint arXiv:2408.03762},
year = {2024}
}