中文

用于理性推理的球面神经网络

人工智能 2025-02-26 v4

摘要

大型语言模型(LLM),例如 ChatGPT,其成功体现在全球范围的流行度、类人沟通能力以及稳步提升的推理性能上。然而,LLM 是否真正进行推理仍不清楚。如何对传统神经网络进行质的扩展,使其超越统计范式并实现高级认知,是一个悬而未决的问题。在此,我们通过将计算构建块从向量推广到球面,提出一种新颖的质的扩展。我们提出球面神经网络(SphNN),通过模型构建与检验实现类人推理,并针对人类理性的缩影——三段论推理——开发了 SphNN。SphNN 是一种分层的神经符号 Kolmogorov-Arnold 几何图神经网络(GNN),利用邻域空间关系的神经符号转换映射,将当前球面构型向目标构型变换。SphNN 是首个无需训练数据、在一个 epoch 内即可判定长链三段论推理有效性的神经模型,其最坏计算复杂度为 O(N)。SphNN 可演化为多种推理类型,如时空推理、带否定与析取的逻辑推理、事件推理、神经符号统一以及幽默理解(最高层次的认知)。所有这些都暗示了一种新型的赫伯特·A·西蒙剪刀,具有两片神经刀刃。SphNN 将极大促进跨学科合作,以发展这两片神经刀刃,实现确定性神经推理与人类有限理性,并将 LLM 提升为可靠的心理 AI。本研究表明,球面的非零半径是阻止传统深度学习系统进入理性推理领域并导致 LLM 陷入幻觉沼泽的缺失组件。

关键词

引用

@article{arxiv.2403.15297,
  title  = {Sphere Neural-Networks for Rational Reasoning},
  author = {Tiansi Dong and Mateja Jamnik and Pietro Liò},
  journal= {arXiv preprint arXiv:2403.15297},
  year   = {2025}
}