HINT：持续学习中训练权重区间区域的超网络方法
机器学习
2025-05-07 v4 人工智能
摘要
最近，一种新的持续学习（CL）范式被提出以控制灾难性遗忘，称为区间持续学习（InterContiNet），它依赖于对神经网络参数空间施加区间约束。不幸的是，由于权重空间的高维性，InterContiNet训练具有挑战性，使得区间难以管理。为了解决这个问题，我们引入了HINT，一种在嵌入空间中使用区间算术并利用超网络将这些区间映射到目标网络参数空间的技术。我们训练连续任务的区间嵌入，并训练一个超网络将这些嵌入转换为目标网络的权重。给定任务的嵌入与超网络一起训练，保留目标网络对先前任务嵌入的响应。区间算术在更易于管理的低维嵌入空间中工作，而不是直接在高维权重空间中准备区间。我们的模型允许更快、更高效的训练。此外，HINT保持不遗忘的保证。在训练结束时，我们可以选择一个通用嵌入来生成一个专用于所有任务的单一网络。在这样的框架中，超网络仅用于训练，最终我们可以使用一组权重。HINT获得了比InterContiNet显著更好的结果，并在多个基准上取得了SOTA结果。
引用
@article{arxiv.2405.15444,
title = {HINT: Hypernetwork Approach to Training Weight Interval Regions in Continual Learning},
author = {Patryk Krukowski and Anna Bielawska and Kamil Książek and Paweł Wawrzyński and Paweł Batorski and Przemysław Spurek},
journal= {arXiv preprint arXiv:2405.15444},
year = {2025}
}