面向持续环境的评估器引导学习
机器学习
2023-03-22 v1 人工智能
摘要
本文提出一种面向持续学习的评估器引导学习策略，其中评估器通过控制学习过程的方向与节奏来引导基学习器的学习过程，从而在新环境的高效学习的同时防范灾难性干扰问题。评估器以元学习方式训练，其元目标在于提升基学习器的学习过程。它对每个样本执行软加权机制，接受正样本而拒绝负样本。基学习器的训练目标是最小化交叉熵损失函数、暗经验回放（DER）损失函数与知识蒸馏损失函数的元加权组合，其相互作用被控制以取得改进的性能。为克服因内存预算有限导致的情景记忆类不平衡问题，提出了补偿过采样（COS）策略。我们的方法——评估器引导学习方法（AGLA）——已在类增量和任务增量学习问题上进行评估。与同类方法相比，AGLA取得了改进的性能，同时给出了COS策略的理论分析。AGLA、基线算法及实验日志的源代码已公开于\url{https://github.com/anwarmaxsum/AGLA}以供进一步研究。
引用
@article{arxiv.2303.11624,
title = {Assessor-Guided Learning for Continual Environments},
author = {Muhammad Anwar Ma'sum and Mahardhika Pratama and Edwin Lughofer and Weiping Ding and Wisnu Jatmiko},
journal= {arXiv preprint arXiv:2303.11624},
year = {2023}
}
备注
Submitted for publication to Information Sciences