通过遗忘正确的过去来修复神经网络

机器学习模型的预测失败通常源于训练数据中的缺陷，如错误标签、离群值和选择偏差。然而，导致特定失败模式的数据点通常并非先验已知，更毋论修复该失败的机制。本工作借鉴持续学习的贝叶斯视角，开发了一个通用框架，既能识别引发目标失败的训练样本，又能通过擦除关于它们的信息来修复模型。该框架自然允许将持续学习的最新进展用于这一新的模型修复问题，同时将关于影响函数和数据删除的已有工作作为特例纳入。实验上，所提方法在有害训练数据识别和以可泛化方式修复模型失败两方面均优于基线。