针对医学图像的数据窃取攻击：从数据湖导出网络是否安全？
密码学与安全
2022-06-08 v1 机器学习
摘要
在隐私保护机器学习中，模型所有者通常无法物理接触数据。相反，模型所有者仅被授予对数据湖的安全远程访问权限，且无法从数据湖中检索数据。然而，模型所有者可能希望定期从远程仓库导出训练好的模型，这就产生了一个问题：这是否会导致数据泄露风险。在本文中，我们提出了神经网络导出过程中的数据窃取攻击概念。其做法是在导出的网络中隐藏某些信息，使得最初存储于数据湖中的图像能够在数据湖之外被重建。更确切地说，我们表明可以训练一个既能执行有损图像压缩、又能同时解决诸如图像分割等实用任务的网络。随后，该攻击通过导出压缩解码器网络以及一些图像编码，从而在数据湖之外实现图像重建。我们探究了此类攻击在 CT 和 MR 图像数据库上的可行性，表明有可能获得目标数据集在感知上有意义的重建结果，且被窃取的数据集反过来可用于解决广泛任务。全面的实验与分析表明，数据窃取攻击应被视为敏感影像数据源的一种威胁。
引用
@article{arxiv.2206.03391,
title = {Data Stealing Attack on Medical Images: Is it Safe to Export Networks from Data Lakes?},
author = {Huiyu Li and Nicholas Ayache and Hervé Delingette},
journal= {arXiv preprint arXiv:2206.03391},
year = {2022}
}