散射组合学习器：在类比推理中发现对象、属性与关系
机器学习
2020-07-09 v1 人工智能
计算机科学中的逻辑
机器学习
摘要
在这项工作中，我们关注一个包含丰富组合结构的类比推理任务——瑞文渐进矩阵（RPM）。为发现数据的组合结构，我们提出了散射组合学习器（SCL），一种将神经网络按顺序组合的架构。我们的 SCL 在两个 RPM 数据集上取得了最先进的性能，在 Balanced-RAVEN 上相对先前最先进水平有 48.7% 的提升，在 PGM 上有 26.4% 的提升。我们进一步表明，我们的模型发现了对象属性（如形状、颜色、大小）及其关系（如递进、并集）的组合表示。我们还发现，组合表示使 SCL 在测试时域偏移下显著更鲁棒，并极大提升了到先前未见过的类比的零样本泛化能力。
引用
@article{arxiv.2007.04212,
title = {The Scattering Compositional Learner: Discovering Objects, Attributes, Relationships in Analogical Reasoning},
author = {Yuhuai Wu and Honghua Dong and Roger Grosse and Jimmy Ba},
journal= {arXiv preprint arXiv:2007.04212},
year = {2020}
}