终身学习中来自公共表示空间的任务感知信息路由

部署在现实世界中的智能系统在面对一系列任务时会遭受灾难性遗忘。另一方面，人类在各任务之间获取、巩固并迁移知识，且很少与已巩固的知识相互干扰。伴随自我调节的神经发生，大脑中的持续学习由一套丰富的神经生理过程主导，这些过程容纳不同类型的知识，随后由意识加工进行整合。因此，受大脑意识信息访问的全局工作空间理论启发，我们提出 TAMiL，一种持续学习方法，其包含任务注意力模块以从公共表示空间中捕获任务特定信息。我们采用简单的欠完备自编码器在公共表示空间与全局工作空间之间建立通信瓶颈，仅允许任务相关信息进入全局工作空间，从而大幅降低任务干扰。实验结果表明，我们的方法优于最先进的基于回放和动态稀疏的方法，并在固定容量与参数隔离方法之间弥合了差距，同时具备可扩展性。我们还表明，我们的方法有效缓解了灾难性遗忘，且与降低的任务近因偏差保持良好校准。