面向鲁棒持续学习的贝叶斯自适应矩正则化
机器学习
2024-07-25 v3
摘要
对长期自主性的追求要求机器学习模型必须持续适应不断变化的环境并学会解决新任务。持续学习旨在克服灾难性遗忘的挑战，即学习解决新任务导致模型遗忘先前学到的信息。基于先验的持续学习方法因其计算高效且不需要辅助模型或数据存储而具有吸引力。然而，基于先验的方法在重要基准上通常表现不佳，因此与基于记忆的方法相比其潜在应用受限。我们引入贝叶斯自适应矩正则化（BAdam），一种更好地约束参数增长、减轻灾难性遗忘的新型基于先验的方法。我们的方法具有一系列理想性质，如轻量、无任务标签、快速收敛，并提供对安全现实部署重要的校准不确定性。结果表明，BAdam 在具有挑战性的单头类增量实验（如 Split MNIST 与 Split FashionMNIST）上实现了基于先验方法的 SOTA 性能，且无需依赖任务标签或离散任务边界。
引用
@article{arxiv.2309.08546,
title = {Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization},
author = {Jack Foster and Alexandra Brintrup},
journal= {arXiv preprint arXiv:2309.08546},
year = {2024}
}