P3SGD：用于正则化病理图像分类中深度CNN的患者隐私保护SGD
计算机视觉与模式识别
2019-05-31 v1
摘要
近来，深度卷积神经网络（CNNs）在病理图像分类中取得了巨大成功。然而，由于标注病理图像数量有限，仍有两项挑战亟待解决：（1）过拟合：CNN模型因其海量参数与标注训练数据不足导致的过拟合而性能受损。（2）隐私泄露：使用常规方法训练的模型可能无意中泄露训练数据集中患者的隐私信息。数据集越小，隐私泄露越严重。为应对上述两项挑战，我们引入一种新颖的随机梯度下降（SGD）方案，名为患者隐私保护SGD（P3SGD），其通过在每个患者数据上构建的大步长更新在患者层级执行SGD的模型更新。具体而言，为保护隐私并正则化CNN模型，我们提出将精心设计的噪声注入更新中。此外，我们为P3SGD配备了一种精细策略以自适应控制注入噪声的尺度。为验证P3SGD的有效性，我们在一个真实世界临床数据集上进行了大量实验，并定量展示了P3SGD在降低过拟合风险方面的优越能力。我们还提供了在差分隐私下隐私代价的严格分析。另外，我们发现与非私有SGD训练的模型相比，用P3SGD训练的模型对模型反演攻击具有抵抗力。
引用
@article{arxiv.1905.12883,
title = {P3SGD: Patient Privacy Preserving SGD for Regularizing Deep CNNs in Pathological Image Classification},
author = {Bingzhe Wu and Shiwan Zhao and Guangyu Sun and Xiaolu Zhang and Zhong Su and Caihong Zeng and Zhihong Liu},
journal= {arXiv preprint arXiv:1905.12883},
year = {2019}
}
备注
Accepted by CVPR 2019