面向医疗数据的深度学习推理攻击模型评估
机器学习
2020-11-03 v1 密码学与安全
计算机视觉与模式识别
摘要
深度学习在医疗与健康领域引起了广泛关注。然而,针对医疗应用训练的深层网络所带来的隐私问题研究甚少。近期开发的推理攻击算法表明,能够查询深度网络的恶意方可以重建图像与文本记录。这引发了人们对包含敏感患者信息的医学图像与电子健康记录易受此类攻击的担忧。本文旨在引起医疗深度学习领域研究者对该重要问题的关注。我们评估两种突出的推理攻击模型,即属性推理攻击与模型反演攻击。我们展示它们能以高保真度重建真实医疗图像与临床报告。随后,我们研究如何使用防御机制(如标签扰动与模型扰动)保护患者隐私。我们给出了原始医疗深度学习模型与带防御模型间攻击结果的比较。实验评估表明,我们所提防御方法能有效降低医疗深度学习因推理攻击导致的潜在隐私泄露。
引用
@article{arxiv.2011.00177,
title = {Evaluation of Inference Attack Models for Deep Learning on Medical Data},
author = {Maoqiang Wu and Xinyue Zhang and Jiahao Ding and Hien Nguyen and Rong Yu and Miao Pan and Stephen T. Wong},
journal= {arXiv preprint arXiv:2011.00177},
year = {2020}
}