面向金融决策者的幻觉最小化的数据到答案框架

迄今为止，大型语言模型（LLMs）已被应用于构建若干自动化和个性化问答原型。然而，将此类原型扩展为具有最小化幻觉或虚假响应的稳健产品仍是一个开放性挑战，尤其是在金融决策等以数据表格为主的小众领域。在本工作中，我们提出了一种新颖的基于 Langchain 的框架，该框架将数据表格转换为分层文本数据块，以实现多种可操作的问答。首先，根据用户意图对用户查询进行分类，随后自动检索最相关的数据块以为每个查询生成定制化的 LLM 提示。接下来，自定义提示及其响应经过多指标评分，以评估幻觉和响应置信度。所提出的系统通过用户查询意图分类、高级提示、数据扩展能力进行了优化，并且对于从 {What、Where、Why、How、predict、trend、anomalies、exceptions} 等多种对用户查询响应实现了超过 90% 的置信度分数，这些查询对金融决策应用至关重要。所提出的数据到答案框架可扩展至销售和工资单等其他分析领域，以确保最优的幻觉控制防护栏。