利用生成方法防御医学图像诊断中的隐私攻击
密码学与安全
2021-08-23 v2 计算机视觉与模式识别
计算机与社会
机器学习
图像与视频处理
摘要
用于医学影像诊断的机器学习（ML）模型易遭受多种隐私攻击，包括成员推断攻击，这会导致违反医疗数据使用法规，并威胁其在临床中的有效部署。与近期多数关注模型改动与后处理步骤的隐私感知 ML 工作不同，我们在此提出一种新颖且互补的方案，通过控制数据共享过程来增强医疗数据的安全性。我们开发并评估了一种基于生成对抗网络（GAN）的隐私防御协议，该协议允许医疗数据提供方（如医院）向外部代理（建模方）提供由原始图像合成的代理数据集，从而使得提供给模型使用方的诊断系统能够抵御隐私攻击者。我们在用于糖尿病视网膜病变的视网膜诊断 AI 上验证了所提方法，该 AI 存在泄露隐私信息的风险。为兼顾隐私倡导者与建模方的关切，我们引入一种度量同时评估隐私与效用性能，并利用这些新颖与经典度量证明，我们的方法无论单独还是结合其他防御，均针对隐私攻击提供了最先进（SOTA）的防御性能。
引用
@article{arxiv.2103.03078,
title = {Defending Medical Image Diagnostics against Privacy Attacks using Generative Methods},
author = {William Paul and Yinzhi Cao and Miaomiao Zhang and Phil Burlina},
journal= {arXiv preprint arXiv:2103.03078},
year = {2021}
}
备注
Accepted for oral presentation at MICCAI PPML 2021