FiSTECH：金融风格迁移以提升 LLM 的创造力且避免幻觉
计算与语言
2024-11-19 v4 人工智能
计算工程、金融与科学
摘要
生成式 AI 最近的趋势倾向于对基础大型语言模型（LLM）进行微调，以创建针对特定领域的 LLM，用于自动化和类似聊天机器人的应用。需要特定写作风格的专业应用，如金融报告生成，这些风格包含复合且富有创意的句子，并最大限度地减少幻觉。在本工作中，我们探索了 LLM 自我纠正的自回归特性，以最小化提示实现写作风格中的创造力。我们提出一种新型两阶段微调（FT）策略，其中第一阶段使用公共金融报告训练写作风格，同时允许 LLM 产生幻觉。在第二阶段手动纠正幻觉示例并进一步用于微调 LLM。最终训练的 LLM 能够在最小化指令和表格数据输入的条件下生成特定金融报告章节，同时确保低微调成本。我们提出的两阶段微调将金融问题 answering 的准确率提升了两倍，幻觉减少超过 50%。此外，微调后的模型具有更低的困惑度，改进的 ROUGE、TER 和 BLEU 分数，更高的创造力和知识密度，同时表现出更低的不确定性和交叉熵，优于基础 LLM。因此，所提框架可推广至通过首先允许 LLM 产生幻觉来训练其创造力。
引用
@article{arxiv.2408.05365,
title = {FiSTECH: Financial Style Transfer to Enhance Creativity without Hallucinations in LLMs},
author = {Sohini Roychowdhury and Marko Krema and Brian Moore and Xingjian Lai and Dike Effedua and Bharat Jethwani},
journal= {arXiv preprint arXiv:2408.05365},
year = {2024}
}
备注
10 pages, 14 figures, 5 tables, conference