非结构化数据上的多步推理
计算与语言
2024-07-26 v4 人工智能
摘要
大型语言模型(LLMs)和生成式AI的出现彻底改变了各个领域的自然语言应用。然而，在医学、法律和金融等领域的高风险决策任务需要纯LLM或检索增强生成(RAG)方法通常无法提供的精度、全面性和逻辑一致性水平。在Elemental Cognition (EC)，我们开发了一个神经符号AI平台来解决这些问题。该平台将用于知识提取和对齐的微调LLM与用于逻辑推理、规划和交互式约束求解的鲁棒符号推理引擎集成在一起。我们描述了Cora，一个建立在该平台上的协作研究助手，旨在在高风险领域执行复杂的研究和发现任务。本文讨论了此类领域中固有的多步推理挑战，批判了现有基于LLM方法的局限性，并展示了Cora的神经符号方法如何有效解决这些问题。我们提供了系统架构、知识提取和形式推理的关键算法的概述，并展示了初步评估结果，这些结果突显了Cora与知名的LLM和RAG基线相比的优越性能。
引用
@article{arxiv.2406.17987,
title = {Multi-step Inference over Unstructured Data},
author = {Aditya Kalyanpur and Kailash Karthik Saravanakumar and Victor Barres and CJ McFate and Lori Moon and Nati Seifu and Maksim Eremeev and Jose Barrera and Abraham Bautista-Castillo and Eric Brown and David Ferrucci},
journal= {arXiv preprint arXiv:2406.17987},
year = {2024}
}