CAPRAG：面向客户服务与自动报告生成的基于向量与图检索增强的大语言模型解决方案

金融机构新功能和服务的推出常常让客户感到不知所措，这为银行通过基于大语言模型（LLM）的金融聊天机器人来提升用户体验提供了机会。我们启动了一个AI智能体，旨在为客户提供关于银行服务的相关信息以及来自年度报告的见解。我们提出了一种混合客户分析管道检索增强生成（CAPRAG），有效解决了基于关系的查询和情境查询，从而提升了数字银行环境中的客户参与度。为实现这一目标，我们开发了一个处理管道来细化文本数据，分别用于两个主要框架：向量检索增强生成（Vector RAG）和图检索增强生成（Graph RAG）。这种双重方法使我们能够将处理后的数据填充到向量和图数据库中，以实现高效检索。Cypher查询组件用于有效查询图数据库。当用户提交查询时，查询首先由查询扩展模块扩展，然后被路由到混合知识库（KB）以构建最终查询。最终查询随后发送到开源LLM进行响应生成。总体而言，我们创新且为国际银行设计的方案，使银行客户能够在日益复杂的数字环境中获得更清晰和更易于访问的信息。