基于向量的表示是关键：解耦与组合泛化研究

从观测中识别基本底层概念（解耦）并生成这些概念的新组合（组合泛化）是人类支持快速知识学习并泛化到新任务的基本能力，而深度学习模型在此方面存在困难。面向类人智能，各种解耦表示学习的工作已被提出，且近来一些关于组合泛化的研究也已出现。然而，极少有工作研究解耦与组合泛化之间的关系，且观测结果不一致。本文中，我们从解耦与组合泛化能力两方面研究了若干典型解耦表示学习工作，并给出一个重要见解：基于向量的表示（使用向量而非标量表示概念）是同时具备良好解耦与强组合泛化能力的关键。该见解也与神经科学中大脑以神经元群体活动而非单个神经元编码信息的研究相呼应。受此观察启发，我们进一步提出一种方法，将基于标量的解耦工作（$\beta$-TCVAE 与 FactorVAE）改造为基于向量以提升两种能力。我们考察了基于向量的表示维度的影响以及一个重要问题：更好的解耦是否意味着更高的组合泛化。总之，我们的研究表明同时实现良好概念识别与新概念组合是可能的，为迈向类人智能贡献了重要一步。