终身教师-学生网络学习

人类独特的认知能力在于能从一系列经验中获取新知识与技能。与此同时，人工智能系统擅长仅学习最后一个给定任务，而无法记住过去学过的数据库。我们提出一种采用教师-学生网络框架的新型终身学习方法论。当学生模块用新给定数据库训练时，教师模块会提醒学生关于过去学到的信息。教师由生成对抗网络（GAN）实现，被训练以保存并重演对应于先前所学数据库概率表示的过去知识。同时，学生模块由变分自编码器（VAE）实现，从教师模块输出及新可用数据库推断其潜变量表示。此外，学生模块被训练以捕捉跨不同领域的连续与离散底层数据表示。所提终身学习框架应用于监督、半监督和无监督训练中。代码可用：\url{https://github.com/dtuzi123/Lifelong-Teacher-Student-Network-Learning}