用于验证机器遗忘的因果模糊测试

随着机器学习模型日益嵌入决策系统，“遗忘”特定数据或特征的能力对于提升涉及昂贵训练的模型的可适应性、公平性和隐私性至关重要。为了有效指导机器遗忘，全面的测试必不可少。现有的机器遗忘验证方法提供的洞察有限，在影响是间接的场景中往往失效。在这项工作中，我们提出了 CAFÉ，一个基于因果性的新框架，它统一了数据点和特征层面的遗忘，用于验证黑盒机器学习模型。CAFÉ 通过因果依赖关系评估遗忘目标的直接和间接影响，通过细粒度分析提供可操作的洞察。我们在五个数据集和三种模型架构上的评估表明，CAFÉ 成功检测到了基线方法遗漏的残余影响，同时保持了计算效率。