诱敌入彀：用于防御 IoMT 数据模型反演攻击的近端梯度分割学习
密码学与安全
2022-08-10 v3 人工智能
计算机视觉与模式识别
摘要
过去十年中，人工智能(AI)，特别是深度学习网络，在医疗物联网(IoMT)生态系统中得到了快速采用。然而，最近研究表明，深度学习网络可能被对抗攻击所利用，这不仅使 IoMT 易受数据窃取，还易受医疗诊断操纵的影响。现有研究考虑向原始 IoMT 数据或模型参数添加噪声，这不仅降低了医疗推断的整体性能，而且对梯度深度泄漏等方法无效。在这项工作中，我们提出近端梯度分割学习(PSGL)方法以防御模型反演攻击。所提方法在客户端进行深度神经网络训练过程时有意攻击 IoMT 数据。我们提出使用近端梯度法来恢复梯度图，并采用决策级融合策略以提升识别性能。大量分析表明，PGSL 不仅针对模型反演攻击提供了有效防御机制，还有助于在公开可用数据集上提升识别性能。我们分别在重建图像和对抗攻击图像上报告了 14.0、17.9 和 36.9 的准确率增益。
引用
@article{arxiv.2201.04569,
title = {Get your Foes Fooled: Proximal Gradient Split Learning for Defense against Model Inversion Attacks on IoMT data},
author = {Sunder Ali Khowaja and Ik Hyun Lee and Kapal Dev and Muhammad Aslam Jarwar and Nawab Muhammad Faseeh Qureshi},
journal= {arXiv preprint arXiv:2201.04569},
year = {2022}
}
备注
10 pages, 5 figures, 2 tables