通过随机裁剪实现免费的块级差分隐私放大
机器学习
2026-03-27 v1 密码学与安全
计算机视觉与模式识别
摘要
随机裁剪是计算机视觉中最常用的数据增强技术之一,然而其固有的随机性在训练差分隐私机器学习模型时却鲜有被探索。我们观察到,当图像中敏感内容空间局部化时,如面部或车牌,随机裁剪可概率性地将其排除在模型输入之外。这引入了第三种随机性,除梯度噪声和小批量抽样之外,还用于差分隐私训练中的随机梯度下降。这种额外的随机性在无需修改模型架构或训练程序的情况下放大了差分隐私。我们通过引入视觉数据中的块级邻近关系,并推导差分隐私随机梯度下降 (DP-SGD) 在结合随机裁剪时的紧密隐私界,来正式化化此效应。我们的分析量化了块包含概率,并展示了其如何与小批量抽样组合以产生更低的有效抽样率。实验上,我们在多个分割架构和数据集上验证了块级放大在改善隐私-效用权衡方面的作用。我们的结果表明,与领域结构和额外现有随机性源相匹配,可在不增加成本的情况下获得更强的保证。
引用
@article{arxiv.2603.24695,
title = {Amplified Patch-Level Differential Privacy for Free via Random Cropping},
author = {Kaan Durmaz and Jan Schuchardt and Sebastian Schmidt and Stephan Günnemann},
journal= {arXiv preprint arXiv:2603.24695},
year = {2026}
}
备注
Published at TMLR