遗忘证明：定义与实现
密码学与安全
2022-10-24 v2
摘要
机器学习(ML)实践中的“被遗忘权”规则使得某些个体数据可从训练模型中删除，这正是近期发展的机器遗忘技术所追求的。为真正遵守该规则，一个自然且必要的步骤是验证遗忘后个体数据是否确实被删除。然而，先前的参数空间验证度量可能被不信任的模型训练者轻易规避。因此，Thudi等人在USENIX Security'22中提出了算法级验证的行动呼吁。我们响应此呼吁，通过重新考量机器学习即服务(MLaaS)场景下的遗忘问题，提出了算法级遗忘证明(PoUL)的新定义框架。具体而言，我们的PoUL定义(i)在遗忘的前后两阶段均强制正确性属性，以防止最先进的伪造攻击；(ii)强调证明方与验证方双方恰当的实用性要求，对现有服务流水线及计算负载侵入最小。在该定义框架下，我们随后给出了一个基于可信硬件、使用SGX enclave的实现，通过逻辑上融合用于追踪数据血缘的认证层与用于支持学习审计的证明层。我们定制了认证数据结构以支持大型enclave外存储且操作逻辑简单，同时使enclave内以可接受的内存占用证明复杂的遗忘逻辑。最后，我们通过概念验证实现与多维性能评估验证了所提实现的可行性。
引用
@article{arxiv.2210.11334,
title = {Proof of Unlearning: Definitions and Instantiation},
author = {Jiasi Weng and Shenglong Yao and Yuefeng Du and Junjie Huang and Jian Weng and Cong Wang},
journal= {arXiv preprint arXiv:2210.11334},
year = {2022}
}