主动预测编码网络：学习参考系与部分—整体层级的神经解决方案
计算机视觉与模式识别
2022-01-24 v1 人工智能
机器学习
摘要
我们提出主动预测编码网络（APCNs），一类解决 Hinton 等人于人工智能与脑建模领域所提出重大问题的新型神经网络：神经网络如何为物体学习内在参考系，并通过在解析树中动态分配节点将视觉场景解析为部分—整体层级？APCNs 通过新颖的思想组合解决该问题：（1）使用超网络动态生成循环神经网络，这些网络以高层物体级嵌入向量为条件，预测内在参考系中的部件及其位置；（2）将强化学习与反向传播结合用于模型参数的端到端学习。APCN 架构天然适用于多级层级学习，并与皮层功能的预测编码模型密切相关。利用 MNIST、Fashion-MNIST 和 Omniglot 数据集，我们证明 APCNs 能够（a）学习将图像解析为部分—整体层级，（b）学习组合式表示，以及（c）将其知识迁移至未见过的物体类别。凭借为物体动态生成带部件位置的解析树的能力，APCNs 提供了一种利用深度学习进展同时保持可解释性与组合性的可解释 AI 新框架。
引用
@article{arxiv.2201.08813,
title = {Active Predictive Coding Networks: A Neural Solution to the Problem of Learning Reference Frames and Part-Whole Hierarchies},
author = {Dimitrios C. Gklezakos and Rajesh P. N. Rao},
journal= {arXiv preprint arXiv:2201.08813},
year = {2022}
}