盲目机器遗忘：无需暴露擦除数据

机器遗忘允许数据持有者从训练好的模型中移除其指定样本的贡献，以保护隐私。然而，大多数遗忘方法都要求遗忘请求者首先上传其数据到服务器作为遗忘的前提条件。在许多隐私保护场景中（如联邦学习），服务器被禁止访问用户数据，这些方法便不可行。本文探讨了在不暴露擦除数据给服务器的条件下如何实现遗忘。我们提出了盲目遗忘方法（BlindU），通过压缩表示来执行遗忘，而非使用原始输入。BlindU仅涉及服务器和遗忘用户：用户在本地生成隐私保护表示，服务器仅对这些表示及其标签执行遗忘。在联邦学习模型训练中，我们采用信息瓶颈（IB）机制。基于IB的联邦学习模型的编码器学习表示，以扭曲输入中与任务无关的信息，允许联邦学习用户在本地生成压缩表示。对于使用压缩表示实现有效遗忘，BlindU集成了两个专门为IB模型设计的遗忘模块，并使用多梯度下降算法来平衡遗忘和实用性保留。虽然IB压缩已经为输入的任务无关信息提供了保护，但为进一步增强隐私保护，我们引入一种无噪声差分隐私（DP）掩码方法来处理擦除数据。理论分析和大量实验结果表明，BlindU在隐私保护和遗忘有效性方面优于最佳现有隐私保护遗忘基准方法。