单像素攻击欺骗癌症计算机辅助诊断
计算机视觉与模式识别
2021-11-03 v6 密码学与安全
机器学习
摘要
计算机视觉与机器学习可用于自动化癌症诊断与检测中的各类任务。若攻击者能够操纵自动化处理过程，后果可能是灾难性的，最坏情况下会导致错误的诊断与治疗。本研究中，目标是在真实场景中使用真实病理数据集 TUPAC16（由数字化的全切片图像组成）来展示单像素攻击的利用。我们针对 IBM CODAIT 的 MAX 乳腺癌检测器使用对抗图像发起攻击。这些对抗样本通过差分进化对数据集中图像执行单像素修改而求得。结果表明，对分析中的全切片图像进行微小的单像素修改即可通过反转自动诊断结果来影响诊断。该攻击从网络安全角度构成一种威胁：单像素方法可被有动机的攻击者用作攻击向量。
引用
@article{arxiv.2012.00517,
title = {One-Pixel Attack Deceives Computer-Assisted Diagnosis of Cancer},
author = {Joni Korpihalkola and Tuomo Sipola and Samir Puuska and Tero Kokkonen},
journal= {arXiv preprint arXiv:2012.00517},
year = {2021}
}