针对基于机器学习的智能医疗系统的对抗攻击
机器学习
2020-10-09 v1 密码学与安全
摘要
医疗数据可用性的增长需要对疾病诊断、进展和实时监测进行准确分析，从而为患者提供改善的治疗。在此背景下，机器学习（ML）模型被用于从高维异构医疗数据中提取有价值的特征与洞察，以在智能医疗系统（SHS）中检测不同疾病与患者活动。然而，近期研究表明，应用于不同领域的 ML 模型易受对抗攻击。本文引入一类新型对抗攻击，以利用 SHS 中使用的 ML 分类器。我们考虑一个对数据分布、SHS 模型和 ML 算法具有部分知识的对手，以实施目标性与非目标性攻击。利用这些对抗能力，我们篡改医疗设备读数，以改变 SHS 输出中的患者状态（染病、正常状况、活动等）。我们的攻击运用五种不同的对抗 ML 算法（HopSkipJump、快速梯度法、决策树构造、Carlini & Wagner、零阶优化）在 SHS 上执行不同恶意活动（例如数据投毒、误分类输出等）。此外，基于对手在训练与测试阶段的能力，我们对 SHS 实施白盒与黑盒攻击。我们在不同 SHS 设置与医疗设备上评估了工作的性能。大量评估表明，我们提出的对抗攻击能显著削弱基于 ML 的 SHS 正确检测患者疾病与正常活动的性能，并最终导致错误治疗。
引用
@article{arxiv.2010.03671,
title = {Adversarial Attacks to Machine Learning-Based Smart Healthcare Systems},
author = {AKM Iqtidar Newaz and Nur Imtiazul Haque and Amit Kumar Sikder and Mohammad Ashiqur Rahman and A. Selcuk Uluagac},
journal= {arXiv preprint arXiv:2010.03671},
year = {2020}
}
备注
6 pages, 5 figures, Accepted in IEEE Globecom 2020