在线补丁冗余消除器（OPRE）：一种基于数据压缩的在线agnostic 持续学习新方法
机器学习
2025-11-12 v1 计算机视觉与模式识别
摘要
为了实现持续学习（CL），必须克服影响神经网络自诞生以来不断复燃的问题。持续学习方法的评估依赖于将已知齐同质数据集分割并依次学习相关任务。在我们看来，大多数 CL 方法引入了对将来数据具有先验信息，无法被视为agnostic。我们以依赖预训练特征提取器的方法为例，这些方法仍被用于 CL。随后，我们展示了预训练特征提取器意味着相对于模型可学习的数据丢失了普遍性，然后我们讨论了其他 CL 方法中引入的其他类型先验信息。我们随后提出了在线补丁冗余消除器（OPRE），一种在线数据压缩算法，随着在测试时间对分类器的训练，yield 对 CIFAR-10 和 CIFAR-100 的性能优于多数其他最先进的在线持续学习方法。此外，OPRE 只需要对将来的数据进行最小且可解释的假设。我们认为，在线数据压缩可能是实现完全agnostic CL 的必要条件。
引用
@article{arxiv.2511.08226,
title = {The Online Patch Redundancy Eliminator (OPRE): A novel approach to online agnostic continual learning using dataset compression},
author = {Raphaël Bayle and Martial Mermillod and Robert M. French},
journal= {arXiv preprint arXiv:2511.08226},
year = {2025}
}