压缩攻击的数据外泄：医学影像数据的定义与评估

随着数据湖快速扩张，存储健康数据并托管人工智能算法，一个突出的关注点随之而来：将机器学习模型从这些数据湖中导出是否安全。在医学影像数据上下文中，本文深入探讨了这一问题，并引入了一种基于图像压缩技术的新型数据外泄攻击。该攻击称为压缩数据外泄攻击，仅需访问数据湖，基于无损或有损图像压缩方法。不同于以往的数据外泄攻击，它适用于任何图像处理任务，仅依赖于导出的网络模型，而无需在训练过程中收集任何额外信息。我们探索了各种场景和技术，以限制导出模型的大小，并将压缩代码嵌入网络中。使用两个公开的 CT 和 MR 图像数据集，我们展示了该攻击能够有效窃取医学图像，并在数据湖之外以高保真度重构图像，在压缩与重建质量之间实现最佳平衡。此外，我们研究了基本差分隐私措施（如向模型参数添加高斯噪声）防止压缩数据外泄攻击的影响。我们还展示了攻击者如何在降低窃取图像数量的代价下，使其对差分隐私具有抗性。最后，我们提出了通过微调导出模型来进行防御的另一种策略。