忽隐忽现：计算病理中的对抗脆弱性
图像与视频处理
2021-06-18 v2 机器学习
摘要
深度学习模型常规应用于计算病理（CPath）中以解决具有诊断与预后意义的问题。通常，CPath 模型的泛化性能通过使用交叉验证和多中心队列测试等评估协议进行分析。然而，为确保此类 CPath 解决方案在临床环境中稳健且安全可用，需要对其预测性能及对抗攻击的脆弱性进行批判性分析，这正是本文的重点。具体而言，我们展示了一个用于病理图像中肿瘤斑块分类的高精度模型（AUC > 0.95）可轻易受到最小扰动攻击，这些扰动对于普通人与受过训练的病理解读医生均不可察觉。我们的分析结果表明，可以对特定输入图像生成单实例白盒攻击，其成功率高且扰动能量低。此外，我们还仅使用训练数据集生成了一个单一通用扰动矩阵，将其加至未见测试图像时，能以高置信度迫使训练好的神经网络翻转其预测标签，成功率 > 84%。我们系统分析了对抗攻击的扰动能量、其对临床意义形态学结构的影响、受训病理学家的可感知性，以及使用深度学习模型获得的显著性图之间的关系。基于我们的分析，我们强烈建议计算病理模型在临床采用前使用所提出的对抗验证策略进行批判性分析。
引用
@article{arxiv.2106.08153,
title = {Now You See It, Now You Dont: Adversarial Vulnerabilities in Computational Pathology},
author = {Alex Foote and Amina Asif and Ayesha Azam and Tim Marshall-Cox and Nasir Rajpoot and Fayyaz Minhas},
journal= {arXiv preprint arXiv:2106.08153},
year = {2021}
}
备注
10 pages