神经模块网络在系统性泛化中应具备多高的模块化程度
机器学习
2022-01-19 v2 计算机视觉与模式识别
摘要
神经模块网络（NMNs）旨在通过组合处理子任务的模块来实现视觉问答（VQA）。NMNs 是实现系统性泛化的一种有前景的策略，即克服训练分布中的偏置因素。然而，促进系统性泛化的 NMNs 各方面特性尚未被充分理解。在本文中，我们证明了 NMN 的模块化程度对系统性泛化有重大影响。在三个 VQA 数据集（VQA-MNIST、SQOOP 和 CLEVR-CoGenT）上的一系列实验中，我们的结果表明，调整模块化程度，尤其是在图像编码器阶段，可显著提升系统性泛化。这些发现催生了在系统性泛化方面优于先前架构的新 NMN 架构。
引用
@article{arxiv.2106.08170,
title = {How Modular Should Neural Module Networks Be for Systematic Generalization?},
author = {Vanessa D'Amario and Tomotake Sasaki and Xavier Boix},
journal= {arXiv preprint arXiv:2106.08170},
year = {2022}
}