大型语言模型归因的神经符号AI方法

大型语言模型（LLM）中的归因仍是一个重大挑战，尤其是在确保生成输出的事实准确性和可靠性方面。当前用于引用或归因的方法，如Perplexity.ai等工具所采用的方法，试图通过提供实时搜索结果和引用来 grounding 响应。然而，这些方法目前仍存在幻觉、偏见、表层相关性匹配以及管理广泛、未筛选知识来源的复杂性等问题。尽管Perplexity.ai等工具动态整合 web 基础信息和引用，但它们常常依赖于不一致的来源，如博客文章或不可靠来源，这限制了其整体可靠性。我们提出，这些挑战可以通过整合神经符号AI（NesyAI）来缓解，后者结合了神经网络与结构化符号推理的优势。NesyAI提供透明、可解释和动态的推理过程，解决了当前归因方法的局限性，通过结合结构化符号知识与灵活的神经学习。本文探讨了NesyAI框架如何增强现有归因模型，为LLM提供更可靠、可解释且可适应的系统。