使用遗忘神经网络进行机器遗忘
机器学习
2025-12-30 v2 人工智能
神经与进化计算
摘要
现代计算机系统存储大量个人数据，推动了 AI 和 ML 的进步，但也带来了用户隐私和信任风险。出于隐私原因，有时需要 ML 模型遗忘其训练过的部分数据。在本文中，我们引入了一种基于遗忘神经网络 (FNNs) 的新颖遗忘方法，这是一种受神经科学启发的架构，通过乘法衰减因子显式编码遗忘。虽然 FNNs 此前仅作为理论构造被研究，但我们提供了其首个具体实现，并展示了其在定向遗忘方面的有效性。我们提出了几种具有逐神经元遗忘因子的变体，包括由激活水平引导的基于排名的分配，并在 MNIST 和 Fashion-MNIST 基准上对其进行了评估。我们的方法系统地移除了与遗忘集相关的信息，同时保持了在保留数据上的性能。成员推理攻击证实了基于 FNN 的遗忘在从神经网络中擦除训练数据信息方面的有效性。这些结果确立了 FNNs 作为高效且可解释遗忘的有前景基础。
引用
@article{arxiv.2410.22374,
title = {Machine Unlearning using Forgetting Neural Networks},
author = {Amartya Hatua and Trung T. Nguyen and Filip Cano and Andrew H. Sung},
journal= {arXiv preprint arXiv:2410.22374},
year = {2025}
}
备注
12 Pages, Accepted at ICAART 2026 - 18th International Conference on Agents and Artificial Intelligence