神经符号隐空间中的基于知识的类比推理
人工智能
2022-09-20 v1 机器学习
摘要
类比推理问题对连接主义和符号 AI 系统均构成挑战，因其需要背景知识、推理与模式识别的结合。符号系统接收显式领域知识并进行演绎推理，但对噪声敏感且要求输入映射到预设符号特征。另一方面，连接主义系统可直接接收图像、文本或语音等丰富输入空间，并即使在含噪输入下也能识别模式。然而，连接主义模型难以纳入用于演绎推理的显式领域知识。本文提出一种框架，将神经网络的模式识别能力与符号推理及背景知识相结合，以解决一类属性集合及其间可能关系事先已知的类比推理问题。我们受“神经算法推理”方法 [DeepMind 2020] 启发，利用问题特定的背景知识：(i) 基于问题的符号模型学习分布式表示，(ii) 训练反映问题中涉及关系的神经网络变换，以及 (iii) 训练从图像到 (i) 中分布式表示的神经网络编码器。这三要素使我们能够使用神经网络作为操作分布式表示的初等函数来进行基于搜索的推理。我们在 RAVENs 渐进矩阵中的视觉类比问题上进行了测试，取得了与人类表现相竞争的准确性，且在某些情况下优于最初的端到端神经网络方法。尽管近期大规模训练的神经网络模型取得了 SOTA，我们新颖的神经符号推理方法对该问题是一个有前景的方向，并且可以说更具一般性，尤其适用于存在领域知识的问题。
引用
@article{arxiv.2209.08750,
title = {Knowledge-based Analogical Reasoning in Neuro-symbolic Latent Spaces},
author = {Vishwa Shah and Aditya Sharma and Gautam Shroff and Lovekesh Vig and Tirtharaj Dash and Ashwin Srinivasan},
journal= {arXiv preprint arXiv:2209.08750},
year = {2022}
}
备注
13 pages, 4 figures, Accepted at 16th International Workshop on Neural-Symbolic Learning and Reasoning as part of the 2nd International Joint Conference on Learning & Reasoning (IJCLR 2022)