面向共享知识终身学习的轻量级学习器
机器学习
2023-05-26 v1
摘要
在终身学习（LL）中，智能体在遭遇新条件和任务时持续学习。当前大多数LL局限于单个智能体顺序学习任务。随后部署专门的LL机制以缓解学习新任务时对旧任务的遗忘。这本质上很慢。我们提出了一种新的共享知识终身学习（SKILL）挑战，其部署去中心化的LL智能体群体，每个智能体顺序学习不同任务，所有智能体独立且并行运行。学习各自任务后，智能体通过去中心化通信网络共享并整合知识，从而最终所有智能体均能掌握全部任务。我们给出了SKILL的一种解决方案，其使用轻量级终身学习（LLL）智能体，目标是通过最小化智能体中专用于任意给定任务的部分来促成高效共享。每个LLL智能体因而由一个通用的任务无关不可变部分（包含大多数参数）以及包含较少参数但适配各任务的独立任务特定模块组成。智能体共享其任务特定模块，以及代表其在所有智能体通用任务无关潜在空间中任务的摘要信息（“任务锚”）。接收智能体利用相应锚注册每个接收到的任务特定模块。因此，每當接收到新任务特定模块与锚时，每个智能体提升其解决新任务的能力。在一个新的、极具挑战性的SKILL-102数据集（含102个图像分类任务，共5,033类，2,041,225张训练、243,464张验证与243,464张测试图像）上，我们相较8个LL基线取得了高得多（且为SOTA）的准确率，同时实现了近乎完美的并行化。代码与数据见 https://github.com/gyhandy/Shared-Knowledge-Lifelong-Learning
引用
@article{arxiv.2305.15591,
title = {Lightweight Learner for Shared Knowledge Lifelong Learning},
author = {Yunhao Ge and Yuecheng Li and Di Wu and Ao Xu and Adam M. Jones and Amanda Sofie Rios and Iordanis Fostiropoulos and Shixian Wen and Po-Hsuan Huang and Zachary William Murdock and Gozde Sahin and Shuo Ni and Kiran Lekkala and Sumedh Anand Sontakke and Laurent Itti},
journal= {arXiv preprint arXiv:2305.15591},
year = {2023}
}
备注
Transactions on Machine Learning Research (TMLR) paper