向学习推理迈进：比较LLMs与Neuro-Symbolic在抽象推理中的算术关系
计算机视觉与模式识别
2024-12-10 v1 人工智能
计算与语言
摘要
本工作比较了大语言模型（LLMs）和神经符号方法在解决Raven的渐进矩阵（RPM）中的表现，后者是一种涉及理解数学规则（如递推或算术加法）的视觉抽象推理测试。通过将视觉属性直接作为文本提示输入，假设存在 oracle 视觉感知模块，从而可以隔离测量模型抽象推理能力。尽管提供了来自 oracle 视觉感知和高级提示技术的组合结构表示，但GPT-4和Llama-3 70B无法在I-RAVEN数据集中心 constellation 上实现完美准确率。我们的分析揭示，根本原因在于LLM在理解和执行算术规则方面的弱点。作为可能的补救措施，我们分析了一种名为 Abductive Rule Learner with Context-awareness（ARLC）的神经符号方法，该方法利用向量-符号架构（VSA）进行推理。具体而言，概念以分布式向量表示，使得编码向量之间的点积定义相似性核函数，简单的元素级运算对编码的值执行加法/减法。我们发现，ARLC在I-RAVEN数据集中心 constellation 上几乎实现了完美准确率，显示出对算术规则的高保真度。为检验模型的长度泛化能力，我们将RPM测试扩展到更大的矩阵（3×10而非典型的3×3）和更大的属性值动态范围（从10扩展到1000）。我们发现，随着动态范围的扩大，LLM在解算算术规则方面的准确率下降至亚10%，而ARLC由于在适当的分布表示上模拟符号计算，能够保持高准确率。我们的代码已公开于https://github.com/IBM/raven-large-language-models。
引用
@article{arxiv.2412.05585,
title = {UNet++ and LSTM combined approach for Breast Ultrasound Image Segmentation},
author = {Saba Hesaraki and Morteza Akbari and Ramin Mousa},
journal= {arXiv preprint arXiv:2412.05585},
year = {2024}
}