遗忘的义务，被保证的权利？揭示机器遗忘服务中的漏洞

被遗忘权要求从机器学习模型中移除或“遗忘”用户数据。然而，在机器学习即服务（MLaaS）场景下，为满足遗忘请求而从头重训模型因服务端（服务器）缺乏训练数据而不切实际。此外，近似遗忘进一步在效用（模型性能）与隐私（遗忘性能）之间呈现出复杂的权衡。本文试图探究 MLaaS 中遗忘服务带来的潜在威胁，特别是过度遗忘——即比预期遗忘掉更多信息。我们提出两种利用过度遗忘来衡量黑盒访问设置下权衡平衡影响的策略，而现有机器遗忘攻击在此设置下并不适用。通过在基准数据集上、跨多种模型架构与代表性遗忘方法的大量实验评估了这些策略的有效性。结果表明两种策略均具有显著削弱遗忘场景下模型效能的潜力。本研究揭示了遗忘与当代 MLaaS 之间未被充分探索的鸿沟，凸显了在平衡数据遗忘、模型效用与安全方面需审慎考量。