隐私漂移：增量学习中隐私关切的演变

在机器学习(ML)的不断演变背景下，联邦学习(Federated Learning, FL)代表了一种范式转变，旨在保持用户数据隐私的同时实现去中心化的模型训练。本文提出了“隐私漂移”(privacy drift)的概念，这一框架类似于已知的概念漂移(concept drift)现象。概念漂移旨在因数据变化导致模型准确率随时间变化，而隐私漂移则封装了模型在增量训练过程中私有信息泄露程度的变化。通过定义和考察隐私漂移，本研究旨在揭示模型性能演变与数据隐私完整性之间的细微关系。通过严格的实验研究，我们探讨了隐私漂移在联邦学习系统中的动态行为，重点考察模型更新和数据分布变化如何影响模型对隐私攻击(如成员推断攻击, Membership Inference Attacks, MIA)的易感性。我们的结果揭示了模型准确率与隐私保护措施之间存在复杂的相互作用，表明模型性能的提升可能导致隐私风险的增加。我们在基于CIFAR-100(加拿大高级研究院, 100类)上的定制数据集实验中，提供了数据漂移和概念漂移对隐私的影响实证证据。本工作为未来的隐私感知机器学习研究奠定了基础，旨在在去中心化环境中实现模型准确率与数据隐私之间的精妙平衡。