MedRDF：一种面向医疗预训练模型、鲁棒且无需重训练的对抗攻击诊断框架
计算机视觉与模式识别
2021-11-30 v1 密码学与安全
机器学习
图像与视频处理
摘要
深度神经网络在受到难以察觉的对抗样本攻击时被发现缺乏鲁棒性，这对于要求高可靠性的医疗诊断系统而言是危险的。然而，在自然图像上效果良好的防御方法可能并不适用于医疗诊断任务。预处理方法（例如随机缩放、压缩）可能导致医学图像中小病灶特征的丢失。在增强数据集上重新训练网络对于已经在线部署的医疗模型也不切实际。因此，有必要为医疗诊断任务设计一种易于部署且有效的防御框架。本文提出一种面向医疗预训练模型、鲁棒且无需重训练的对抗攻击诊断框架（即 MedRDF）。它作用于预训练医疗模型的推理时刻。具体而言，对于每张测试图像，MedRDF 首先生成大量带噪声的副本，并从预训练医疗诊断模型获取这些副本的输出标签。然后，基于这些副本的标签，MedRDF 通过多数投票输出最终的鲁棒诊断结果。除诊断结果外，MedRDF 还产生鲁棒性度量（RM）作为结果的置信度。因此，利用 MedRDF 将预训练的非鲁棒诊断模型转换为鲁棒模型方便且可靠。在 COVID-19 和 DermaMNIST 数据集上的实验结果验证了我们的 MedRDF 在提升医疗诊断模型鲁棒性方面的有效性。
引用
@article{arxiv.2111.14564,
title = {MedRDF: A Robust and Retrain-Less Diagnostic Framework for Medical Pretrained Models Against Adversarial Attack},
author = {Mengting Xu and Tao Zhang and Daoqiang Zhang},
journal= {arXiv preprint arXiv:2111.14564},
year = {2021}
}
备注
TMI under review