丘脑皮层运动回路洞见用于更复杂序列的鲁棒分层控制

我们研究产生由可复用“基元”拼接而成的时间序列的循环神经网络的学习。在神经科学或机器人背景下，这些基元将是生成复杂行为的运动原语。给定一组已知基元，能否在不影响已知集性能的情况下学习新基元，然后在新序列中使用它而无需首先显式学习每个可能的转移？两个要求使之可行：（i）学习新基元时的参数更新不干扰先前获取基元所用的参数；以及（ii）当从任何其他基元结束时达到的网络状态开始时，即使该状态在训练中未出现，也能鲁棒地生成新基元。我们通过研究具有特定架构的人工神经网络（ANNs）满足第一个要求，并试图通过训练它们从随机初始状态生成基元来满足第二个要求。我们发现单个基元的学习成功，但序列生成不鲁棒：观察到转移失败。然后我们将这些结果与一个架构和分析可处理动力学受运动丘脑皮层回路启发、并包含用于实现基元转移的特定模块的模型进行比较。该模型的突触权重可在不需要对模拟网络输出进行随机梯度下降（SGD）的情况下调整，并且我们有转移不会失败的渐近保证。确实，在模拟中，我们实现了与先前研究的 ANNs 相当的单个基元准确率，并且具有改进的序列鲁棒性且无转移失败。最后，我们表明通过研究该模型的转移子网络获得的洞见也可改进先前研究的传统 ANNs 中转移的鲁棒性。