面向金融决策者的幻觉最小化生成式AI解决方案探索之路

生成式AI凭借其易用性以及自动化、翻译和智能行动等核心能力，显著降低了进入AI领域的门槛。当前，驱动此类聊天机器人的大语言模型（LLMs）主要因其自动化能力（如软件监控、报告生成等）以及有限范围和规模下的特定个性化问答能力而被使用。当前演进中的LLM家族的一个主要局限是“幻觉”，即把不准确的回复当作事实报告。幻觉主要由有偏训练数据、模糊提示和不准确的LLM参数引起，并多发生于将数学事实与基于语言的上下文相结合时。因此，在为决策者设计解决方案时，对幻觉进行监控与控制十分必要。本文呈现了专为金融领域决策者定制的、幻觉最小化的基于LLM的解决方案设计历程中的三个主要阶段，即：原型开发、扩展以及利用人类反馈的LLM演进。这三个阶段以及本文提出的从数据到答案生成的新型模块，对于确保生成式AI聊天机器人、自动报告与警报可靠且高质量以辅助关键决策过程是必要的。