视觉机器忘却中的偏差再分配：删除一个群体会损害另一个群体吗？
机器学习
2026-04-10 v1 计算机视觉与模式识别
摘要
机器忘却使模型能够选择性地忘记训练数据，驱动着隐私法规如GDPR和CCPA。然而，其公平性影响尚未充分探讨：当模型忘记一个人口统计群体时，它是否中和了该概念，或者将其重新分配给相关群体，从而可能放大偏差？我们在CelebA数据集上使用CLIP模型（ViT/B-32、ViT-L/14、ViT-B/16）在以年龄和性别为交叉变量定义的群体下进行零样本分类，研究了这种偏差再分配现象。我们评估了三种忘却方法：Prompt擦除、Prompt重加权和Refusal Vector，并使用每群体准确率变化、人口统计学公平性差距和重新分配评分进行评估。我们的结果表明，忘却并不能消除偏差，而是主要沿着性别边界进行重新分配，而非年龄边界。特别是，移除占主导地位的Young Female群体会始终将性能转移到Old Female群体，这揭示了CLIP嵌入空间中的性别主导结构。虽然Refusal Vector方法减少了重新分配，但未能实现完全忘却，同时显著降低了保留性能。这些发现突显了当前忘却方法的根本局限：在不考虑嵌入几何结构的情况下，它们风险放大保留群体中的偏差。
引用
@article{arxiv.2604.08111,
title = {Bias Redistribution in Visual Machine Unlearning: Does Forgetting One Group Harm Another?},
author = {Yunusa Haruna and Adamu Lawan and Ibrahim Haruna Abdulhamid and Hamza Mohammed Dauda and Jiaquan Zhang and Chaoning Zhang and Shamsuddeen Hassan Muhammad},
journal= {arXiv preprint arXiv:2604.08111},
year = {2026}
}