中文

愿遗忘与你同在:用于带噪标签学习的交替重放

机器学习 2024-08-27 v1 人工智能 计算机视觉与模式识别

摘要

在增量训练过程中,遗忘是一个重大挑战,这使得当代 AI 系统在流数据环境中吸收新知识变得尤为困难。为了解决这个问题,持续学习 (CL) 中的大多数方法依赖于对过去数据有限缓冲区的重放。然而,现实场景中噪声的存在(由于时间限制导致的人工标注受限,或数据自动从网络收集),经常使这些策略变得脆弱。在本研究中,我们通过引入交替经验重放 (AER) 来解决带噪标签持续学习 (CLN) 问题,该方法利用遗忘机制在内存缓冲区中保持干净样本、复杂样本和噪声样本之间的清晰区分。其核心思想是,那些难以拟合先前学习数据分布的复杂或误标样本最容易被遗忘。为了充分利用这种分离的优势,我们为 AER 配备了非对称平衡采样 (ABS):一种新的样本选择策略,它在优先保证当前任务纯度的同时,保留过去的相关样本。通过广泛的计算比较,我们证明了我们的方法在所得缓冲区的准确率和纯度方面的有效性,与现有的基于损失的净化策略相比,准确率平均提高了 4.71 个百分点。代码可在 https://github.com/aimagelab/mammoth 获取。

关键词

引用

@article{arxiv.2408.14284,
  title  = {May the Forgetting Be with You: Alternate Replay for Learning with Noisy Labels},
  author = {Monica Millunzi and Lorenzo Bonicelli and Angelo Porrello and Jacopo Credi and Petter N. Kolm and Simone Calderara},
  journal= {arXiv preprint arXiv:2408.14284},
  year   = {2024}
}

备注

25 pages, 5 figures. Accepted at the The 35th British Machine Vision Conference 2024 (BMVC 2024), Glasgow, UK