用于关系推理的简单神经网络模块
计算与语言
2017-06-06 v1 机器学习
摘要
关系推理是通用智能行为的核心组成部分，但已被证明对神经网络而言难以学习。在本文中，我们描述了如何将关系网络作为简单的即插即用模块，来解决根本上取决于关系推理的问题。我们在三个任务上测试了 RN 增强的网络：使用名为 CLEVR 的具有挑战性的数据集进行视觉问答，在该任务上我们达到了超越人类的 SOTA 性能；使用 bAbI 任务套件进行文本问答；以及对动态物理系统的复杂推理。然后，使用名为 Sort-of-CLEVR 的精选数据集，我们表明强大的卷积网络不具备解决关系问题的通用能力，但在用 RN 增强后即可获得这种能力。我们的工作展示了配备 RN 模块的深度学习架构如何隐式发现并学习对实体及其关系进行推理。
引用
@article{arxiv.1706.01427,
title = {A simple neural network module for relational reasoning},
author = {Adam Santoro and David Raposo and David G. T. Barrett and Mateusz Malinowski and Razvan Pascanu and Peter Battaglia and Timothy Lillicrap},
journal= {arXiv preprint arXiv:1706.01427},
year = {2017}
}