评估体医学分割模型的对抗鲁棒性

近年来，体医学分割模型在基于器官和肿瘤的分割任务上取得了显著成功。然而，它们对对抗攻击的脆弱性在很大程度上仍未得到探索，这引发了人们对在医疗保健领域实际部署使用此类模型的工具的严重担忧。这凸显了研究现有模型鲁棒性的重要性。在此背景下，我们的工作旨在实证检验当前体分割架构（包括基于卷积、Transformer和Mamba的模型）的对抗鲁棒性。我们将这项研究扩展到四个体分割数据集，评估在白盒和黑盒对抗攻击下的鲁棒性。总体而言，我们观察到，虽然基于像素和基于频率的攻击在\emph{白盒}设置下都表现良好，但后者在基于迁移的黑盒攻击下表现显著更好。在我们的实验中，我们观察到基于Transformer的模型比基于卷积的模型具有更高的鲁棒性，而基于Mamba的模型最为脆弱。此外，我们表明，体分割模型的大规模训练提高了模型对对抗攻击的鲁棒性。代码和鲁棒模型可在https://github.com/HashmatShadab/Robustness-of-Volumetric-Medical-Segmentation-Models获取。