持续学习：面向视频表征的无遗忘获胜子网络
计算机视觉与模式识别
2024-12-20 v6 人工智能
机器学习
摘要
受彩票假设（LTH）启发，该假设强调了在大型稠密网络中存在高效子网络，我们在适当的稀疏性条件下，针对各种持续学习任务考虑了在任务性能方面表现优异的获胜子网络（WSN）。它利用稠密网络中的预存权重，以在任务增量学习（TIL）和任务无关增量学习（TaIL）场景中实现高效学习。在小样本类增量学习（FSCIL）中，设计了一种称为软子网络（SoftNet）的 WSN 变体，以防止在数据样本稀缺时发生过拟合。此外，在视频增量学习（VIL）中考虑了 WSN 权重的稀疏重用。我们探讨了在 WSN 中使用傅里叶子神经算子（FSO）。它能够对视频进行紧凑编码，并识别跨不同带宽的可重用子网络。我们将 FSO 集成到不同的持续学习架构框架中，包括 VIL、TIL 和 FSCIL。我们的综合实验证明了 FSO 的有效性，显著提升了各种卷积表示层面的任务性能。具体而言，FSO 提升了 TIL 和 FSCIL 中的高层性能，以及 VIL 中的低层性能。
引用
@article{arxiv.2312.11973,
title = {Continual Learning: Forget-free Winning Subnetworks for Video Representations},
author = {Haeyong Kang and Jaehong Yoon and Sung Ju Hwang and Chang D. Yoo},
journal= {arXiv preprint arXiv:2312.11973},
year = {2024}
}
备注
IEEE Transactions on Pattern Analysis and Machine Intelligence (T-PAMI)