GPT-3 模型是少样本金融推理器
计算与语言
2023-07-27 v2 人工智能
摘要
财务分析是评估公司绩效的重要工具。从业者致力于回答金融问题以做出盈利的投资决策，并使用先进的定量分析来做到这一点。因此，金融问答（QA）是一项需要对数字进行深度推理的问答任务。此外，预训练语言模型在金融领域的推理能力如何尚属未知。当前的最先进水平需要一个检索器从文本中收集关于金融问题的事实，以及一个生成器来生成有效的金融程序和最终答案。然而，最近像 GPT-3 这样的大型语言模型仅通过少量样本示例就在多种任务上取得了最先进的性能。我们对 GPT-3 进行了若干实验，发现独立的检索模型和逻辑引擎仍然是实现该任务 SOTA 性能的关键组成部分，这尤其归因于金融问题的精确性以及金融文档中存储的复杂信息。基于这一认识，我们在 GPT-3 上精炼的提示工程方法在无需任何微调的情况下达到了接近 SOTA 的准确率。
引用
@article{arxiv.2307.13617,
title = {GPT-3 Models are Few-Shot Financial Reasoners},
author = {Raul Salles de Padua and Imran Qureshi and Mustafa U. Karakaplan},
journal= {arXiv preprint arXiv:2307.13617},
year = {2023}
}
备注
15 pages, 8 figures