一种用于求解瑞文推理测验的神经-向量-符号架构
机器学习
2023-03-06 v2 人工智能
计算机视觉与模式识别
摘要
无论是深度神经网络还是符号 AI 单独都未接近人类所表现的智能。这主要是因为神经网络无法分解联合表征以获得独立对象（所谓绑定问题），而符号 AI 除其他问题外还受困于穷举规则搜索。这两个问题在旨在结合两种范式优势的神经-符号 AI 中依然显著。此处，我们展示这两个问题可通过我们提出的神经-向量-符号架构（NVSA）得以解决，其利用在高维分布式表征上的强大算子，作为神经网络与符号 AI 之间的通用语言。NVSA 的功效通过求解瑞文渐进矩阵数据集得到证明。相较于最先进的深度神经网络与神经-符号方法，NVSA 的端到端训练在 RAVEN 中取得 87.7% 平均准确率的新纪录，在 I-RAVEN 数据集中取得 88.1%。此外，相较于神经-符号方法中符号推理，NVSA 在分布式表征上以较廉价操作进行的概率推理快两个数量级。我们的代码见 https://github.com/IBM/neuro-vector-symbolic-architectures。
引用
@article{arxiv.2203.04571,
title = {A Neuro-vector-symbolic Architecture for Solving Raven's Progressive Matrices},
author = {Michael Hersche and Mustafa Zeqiri and Luca Benini and Abu Sebastian and Abbas Rahimi},
journal= {arXiv preprint arXiv:2203.04571},
year = {2023}
}
备注
Updated version with additional NVSA end-to-end training, generalization experiments, and PGM experiments