基于代理人 AI 自然语言框架的幻觉缓解

幻觉仍是当前生成式 AI 模型面临的重大挑战，削弱了 AI 系统的可信度和可靠性。本研究探讨了如何通过编排多个专门的人工智能代理来缓解此类幻觉，尤其关注依赖于自然语言处理 (NLP) 以促进代理间无缝交互的系统。为实现这一目标，我们设计了一条管道，在前端代理中引入三百多于有意设计的幻觉诱导提示。随后，由第二级和第三级代理系统性地审查和细化输出，每个代理使用不同的大型语言模型和量身定制的策略，以检测未经验证的主张、纳入明确免责声明，并阐明推测性内容。此外，我们引入了一套新型关键绩效指标 (KPI)，专为评估幻觉得分水平而设计。专门的第四级 AI 代理被用于评估这些 KPI，提供详细评估，确保对幻觉相关行为变化的准确量化。本研究的核心组件是使用 OVON (开放语音网络) 框架，该框架依赖于通用的 NLP 基于接口将上下文信息在代理之间传递。通过结构化 JSON 消息，每个代理传达其对幻觉可能性的评估以及质疑内容背后原因，从而使后续阶段能够在不丢失上下文的前提下细化文本。结果表明，通过运用能够通过 NLP 基于代理框架相互 interoperate 的多个专门代理，能够在幻觉缓解方面取得有前景的成果，最终增强 AI 社区的可信度。