通过语义缓存实现基于代理的 AI 防幻觉、嵌套学习与可持续性

幻觉仍是生产级大语言模型系统面临的主要可靠性障碍，尤其是在多代理管道中，由于不受支持的主张可以在各阶段无限制地传播。本文采用受 HOPE 启发的嵌套学习架构，结合连续记忆系统（CMS）和语义相似性缓存，应用于由 217 个知见不确定性提示和 93 个制造诱导压力测试提示组成的混合基准。一个由三阶段组成的代理管道通过开放底层协议（OFP）进行编排，评估了五个关键绩效指标——FCD（事实主张密度）、FGR（事实依据引用）、FDF（虚构免责声明频率）、ECS（显式语境化得分）和 OSR（可观察性比率）——聚合为 THS（总幻觉得分），以研究缓解-可观察性之间的权衡。FDF、ECS、OSR 和 FGR 被用作缓解信号，因此更负的 THS 表示更强的缓解。前端代理配置为高随机性生成器（temperature=1.0），以产生真实的幻觉基线；而第二级和第三级审阅者则作为渐进式纠正者。这种非对称设计实现了在五种权重配置下的端到端 THS 降低，范围为 -31.3% 到 -35.9%。语义缓存在 930 个潜在调用中实现了 440 次缓存命中（47.3% 命中率），将 LLM 调用次数降至 490 次，降低能源和 CO2e 足迹，使多阶段审阅管道在生产规模下具有操作可行性。极端可观察性配置获得最负的最终 THS (-0.0709)，证明可观察性更高的配置反而加强了缓解效果。这些发现表明，内存增强的多代理设计可以在不进行模型重新训练的情况下，同时提高事实可靠性、操作效率和可审计性。