神经网络塑性性与损失锋利性
机器学习
2024-09-27 v1 人工智能
摘要
在最近几年中，由于该框架倾向于复杂且非平稳目标，持续学习——一种环境随时间可能演变的预测设定——已成为日益受欢迎的研究领域。实现此类目标的学习需要塑性，即神经网络适应其预测以针对不同任务的能力。最近的研究表明，新任务上的塑性损失与非平稳强化学习框架中的损失景观锋利性密切相关。我们探索了应用锋利性正则化技术（这些技术寻求平滑最小值，已在基础预测设置中因其泛化能力而备受推崇）以应对塑性损失的做法。我们的发现表明，这些技术对减少塑性损失并无显著效果。
引用
@article{arxiv.2409.17300,
title = {Neural Network Plasticity and Loss Sharpness},
author = {Max Koster and Jude Kukla},
journal= {arXiv preprint arXiv:2409.17300},
year = {2024}
}