病理学中的蝴蝶效应：探索病理学基础模型的安全性
计算机视觉与模式识别
2025-06-02 v1 人工智能
摘要
随着病理学基础模型在研究和临床决策支持系统中的广泛应用，探索其安全性已成为一个关键问题。然而，尽管其影响日益增大，这些模型对对抗攻击的脆弱性在很大程度上仍未被探索。在这项工作中，我们首次系统调查了用于全切片图像（WSI）分析的病理学基础模型面对对抗攻击的安全性。具体而言，我们引入了“局部扰动产生全局影响”的原则，并提出了一种无需访问下游任务标签即可运行的无标签攻击框架。在此攻击框架下，我们修改了四种经典的白盒攻击方法，并根据WSI的特征重新定义了扰动预算。我们在五个数据集和六个下游任务上对三个具有代表性的病理学基础模型进行了全面实验。尽管每张切片仅修改了0.1%的图像块并添加了难以察觉的噪声，我们的攻击导致的下游准确率下降在最坏情况下可达20%。此外，我们分析了影响攻击成功的关键因素，探索了图像块级脆弱性与语义内容之间的关系，并对潜在的防御策略进行了初步调查。这些发现为未来关于病理学基础模型的对抗鲁棒性和可靠部署的研究奠定了基础。我们的代码公开发布在：https://github.com/Jiashuai-Liu-hmos/Attack-WSI-pathology-foundation-models。
引用
@article{arxiv.2505.24141,
title = {The Butterfly Effect in Pathology: Exploring Security in Pathology Foundation Models},
author = {Jiashuai Liu and Yingjia Shang and Yingkang Zhan and Di Zhang and Yi Niu and Dong Wei and Xian Wu and Zeyu Gao and Chen Li and Yefeng Zheng},
journal= {arXiv preprint arXiv:2505.24141},
year = {2025}
}