一种显式关系型神经网络架构
机器学习
2020-06-24 v4 机器学习
摘要
为了缩小深度学习与符号 AI 之间的差距,我们提出了一种新颖的端到端神经网络架构,该架构从原始像素数据学习形成具有显式关系结构的命题表示。为了评估和分析该架构,我们引入了一系列复杂度各异的简单视觉关系推理任务。我们表明,所提出的架构在此类任务的课程上预训练后,与若干基线架构相比,学习到的可重用表示能更好地促进后续在先前未见任务上的学习。我们对成功训练模型的工作机制进行了可视化,以揭示该架构如何运作的一些线索。
引用
@article{arxiv.1905.10307,
title = {An Explicitly Relational Neural Network Architecture},
author = {Murray Shanahan and Kyriacos Nikiforou and Antonia Creswell and Christos Kaplanis and David Barrett and Marta Garnelo},
journal= {arXiv preprint arXiv:1905.10307},
year = {2020}
}
备注
In Proceedings ICML 2020