神经概念绑定器
人工智能
2024-10-25 v2 机器学习
符号计算
摘要
基于对象的视觉推理面临的一个挑战是生成既具描述性又具区分性的概念表示。在无监督方式下实现这一目标，需要人类用户理解模型所学习的概念，并在必要时纠正错误的概念。为此，我们引入神经概念绑定器 (NCB)，一种用于派生离散和连续概念表示的新型框架，我们称为“概念槽位编码”。NCB 采用两种绑定方式：一种利用最新 SysBinder 机制获取对象因子编码的“软绑定”，以及随后通过层次聚类和基于检索的推理实现的“硬绑定”。这使得从未标记的图像中获得具有表达力的离散表示成为可能。此外，NCB 的概念表示具有结构化特征，可实现直观检查以及对外部知识的直接集成，如人类输入或来自其他 AI 模型（如 GPT-4）的见解。此外，我们演示了 incorporating 硬绑定机制可在保持模型性能的同时，使其无缝集成到用于复杂推理任务的神经和符号模块中。我们通过在我们新引入的 CLEVR-Sudoku 数据集上进行评估来验证了 NCB 的有效性。
引用
@article{arxiv.2406.09949,
title = {Neural Concept Binder},
author = {Wolfgang Stammer and Antonia Wüst and David Steinmann and Kristian Kersting},
journal= {arXiv preprint arXiv:2406.09949},
year = {2024}
}