拆分遗忘

我们提出Split Unlearning（拆分遗忘），一种为Split Learning（SL，拆分学习）设计的新型机器遗忘技术，首次在SL框架中实现分片、隔离、切分与聚合（SISA）遗忘。特别地，现有SL框架中客户端与服务器间的紧密耦合导致频繁的双向数据流及跨所有客户端的迭代训练，违背了“隔离”原则，使其难以实现独立高效的SISA遗忘。为此，我们提出SplitWiper及一种新的一次单向传播方案，其利用SL固有的“分片”结构并解耦客户端与服务器间的神经信号传播，即便在客户端缺失场景下也能实现有效SISA遗忘。我们进一步设计SplitWiper+以增强客户端标签隐私，其融合差分隐私与标签扩展策略，防御服务器及其他潜在对手对客户端标签的隐私攻击。跨多种数据分布与任务的实验表明，SplitWiper对遗忘标签达到0%准确率，对保留标签的准确率较SL中非SISA遗忘高8%。此外，一次单向传播保持恒定开销，将计算与通信成本降低99%。SplitWiper+在与服务器共享掩码标签时保留90%的标签隐私。