针对医学深度学习系统的对抗攻击
密码学与安全
2019-02-05 v3 计算机与社会
机器学习
机器学习
摘要
对抗样本的发现引发了人们对深度学习系统实际部署的担忧。在本文中，我们展示了对抗样本能够操纵三个临床领域中的深度学习系统。对于我们每一个具有代表性的医学深度学习分类器，白盒和黑盒攻击都高度成功。我们的模型代表了医学计算机视觉当前的最先进水平，并且在某些情况下直接反映了已经在实际临床环境中部署的架构。除了本文的技术贡献外，我们综合了大量关于医疗系统的知识，以论证医学可能在金钱激励和技术漏洞方面特别容易受到对抗攻击。为此，我们概述了医疗经济及其为欺诈创造的激励，并提供了此类攻击如何以及为何能够现实地实施的具體例子。我们敦促从业者在临床环境中部署深度学习系统时意识到当前的漏洞，并鼓励机器学习社区进一步研究医学学习系统的领域特定特征。
引用
@article{arxiv.1804.05296,
title = {Adversarial Attacks Against Medical Deep Learning Systems},
author = {Samuel G. Finlayson and Hyung Won Chung and Isaac S. Kohane and Andrew L. Beam},
journal= {arXiv preprint arXiv:1804.05296},
year = {2019}
}