医学影像中对抗攻击的鲁棒共形预测的博弈论防御
机器学习
2025-03-05 v2 密码学与安全
图像与视频处理
摘要
对抗攻击对深度学习模型的可靠性和安全性构成重大威胁，尤其是在医学影像等关键领域。本文提出了一种新框架，将共形预测与博弈论防御策略相结合，以增强模型对已知和未知对抗扰动的鲁棒性。我们研究了三个主要研究问题：在已知攻击下构建有效且高效的共形预测集（RQ1），通过保守阈值确保未知攻击下的覆盖率（RQ2），以及在零和博弈框架中确定最优防御策略（RQ3）。我们的方法包括针对特定攻击类型训练专门的防御模型，并采用最大和最小分类器来有效聚合防御。在 MedMNIST 数据集（包括 PathMNIST、OrganAMNIST 和 TissueMNIST）上进行的广泛实验表明，我们的方法在保持高覆盖率保证的同时最小化了预测集大小。博弈论分析表明，最优防御策略通常收敛于一个奇异的鲁棒模型，在所有评估数据集上优于均匀和简单策略。这项工作推进了不确定性量化和对抗鲁棒性的最前沿，为在对抗环境中部署深度学习模型提供了可靠机制。
引用
@article{arxiv.2411.04376,
title = {Game-Theoretic Defenses for Robust Conformal Prediction Against Adversarial Attacks in Medical Imaging},
author = {Rui Luo and Jie Bao and Zhixin Zhou and Chuangyin Dang},
journal= {arXiv preprint arXiv:2411.04376},
year = {2025}
}