TIDo：非平稳环境下的无源任务增量学习
机器学习
2023-01-31 v1
摘要
本工作提出了一种增量学习方法，使自主智能体能够在非平稳环境中学习新任务。更新基于DNN模型的智能体以学习新的目标任务，需要我们存储过去的训练数据，并且需要大量带标签的目标任务数据集。少样本任务增量学习方法通过使用少量带标签的代表样本和大量无标签目标数据集来调整已训练模型以学习私有目标类别，从而克服了带标签目标数据集的局限。然而，这些方法假设源任务和目标任务都是平稳的。我们提出了一种单样本任务增量学习方法，能够适应非平稳的源任务和目标任务。我们的方法最小化模型特征空间与 incoming 增量数据之间的对抗差异，以学习更新后的假设。我们还使用蒸馏损失来减少对已学任务的灾难性遗忘。最后，我们使用高斯原型生成样本实例，从而无需存储过去的训练数据。与当前任务增量学习的工作不同，我们的模型可以增量式地学习源任务和目标任务更新。我们在增量目标检测和疾病预测模型更新的多种问题设置上评估了我们的方法。我们通过测量共享类别和目标私有类别预测的性能来评估我们的方法。我们的结果表明，与现有的最先进任务增量学习方法相比，我们的方法取得了更好的性能。
引用
@article{arxiv.2301.12055,
title = {TIDo: Source-free Task Incremental Learning in Non-stationary Environments},
author = {Abhinit Kumar Ambastha and Leong Tze Yun},
journal= {arXiv preprint arXiv:2301.12055},
year = {2023}
}