可解释 AI 与对抗攻击易感性：乳腺超声图像分类案例研究
图像与视频处理
2025-07-01 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
超声是一种非侵入性成像模态，可方便地用于对可疑乳腺结节进行分类，并潜在地检测乳腺癌的发病。最近，卷积神经网络 (CNN) 技术在将乳腺超声图像分类为良性或恶性方面显示出了可喜的成果。然而，CNN 推理表现为一个黑盒模型，因此其决策过程不可解释。因此，越来越多的努力致力于解释这一过程，最显著的是通过 GRAD-CAM 和其他提供 CNN 内部工作机制视觉解释的技术。除了解释之外，这些方法还提供了临床上重要的信息，例如确定活检或治疗的位置。在这项工作中，我们分析了如何设计几乎无法察觉的对抗攻击来显著改变这些重要性图谱。此外，我们将证明，重要性图谱的这种改变可以伴随或不伴随分类结果的改变，这使得它们更难被检测到。因此，在使用这些重要性图谱来阐明深度学习的内部工作机制时必须谨慎。最后，我们利用多任务学习 (MTL) 并提出了一种基于 ResNet-50 的新网络来提高分类准确率。我们的敏感性和特异性与现有技术结果相当。
引用
@article{arxiv.2108.04345,
title = {Explainable AI and susceptibility to adversarial attacks: a case study in classification of breast ultrasound images},
author = {Hamza Rasaee and Hassan Rivaz},
journal= {arXiv preprint arXiv:2108.04345},
year = {2025}
}
备注
4 pages, 4 figures, Accepted to IEEE IUS 2021