通过多样化 RNN 吸引子实现针对不同导航任务的归纳偏置
神经元与认知
2020-02-10 v1
摘要
导航对动物行为至关重要,并被认为需要外部环境的内部表征,即认知地图。然而,这种内部表征的精确形式常被认为是空间的度量表征。但内部表征的优劣取决于其在给定任务上的表现贡献,因此可能在不同类型的导航任务间有所差异。在此,我们训练一个循环神经网络来控制智能体在简单环境中执行若干导航任务。为聚焦于内部表征,我们将学习分为修改内部连接的任务无关预训练阶段与控制网络输出的任务特定 Q 学习阶段。我们表明,预训练塑造了网络的吸引子景观,导致连续吸引子、离散吸引子或无序状态。这些结构对 Q 学习阶段施加偏置,从而在各项任务上产生对应于度量与拓扑规则性的表现模式。通过在模块化结构中组合两类网络,我们能在两种规则性上均获得更好表现。我们的结果表明,在循环网络中,归纳偏置以吸引子景观的形式呈现——其可由预训练塑造并用动力系统方法分析。此外,我们证明非度量表征对导航任务有用,且其与时表征的结合可实现灵活的多任务学习。
引用
@article{arxiv.2002.02496,
title = {Implementing Inductive bias for different navigation tasks through diverse RNN attractors},
author = {Tie Xu and Omri Barak},
journal= {arXiv preprint arXiv:2002.02496},
year = {2020}
}
备注
Main text: 11 pages, 5 figures. Supplementary: 16 pages, 14 figures, 3 tables. Accepted as a conference paper for ICLR 2020