MedBN：抵御恶意测试样本的鲁棒测试时适应
机器学习
2024-03-29 v1 密码学与安全
计算机视觉与模式识别
摘要
测试时适应（TTA）已成为解决由训练数据和测试数据之间不可预见的分布偏移导致的性能衰减的一种有前景的解决方案。尽管近期的 TTA 方法在适应测试数据变化方面表现出色，但这种适应性使模型暴露于易受恶意样本攻击的脆弱性中，这一方面受到的关注有限。先前的研究表明，即使测试批次中只有一小部分被恶意篡改，TTA 内部也存在安全漏洞。为了应对这一新出现的威胁，我们提出了中位数批量归一化（MedBN），利用中位数的鲁棒性在测试时推断期间的批量归一化层内进行统计估计。我们的方法与算法无关，因此可以与现有的 TTA 框架无缝集成。我们在基准数据集（包括 CIFAR10-C、CIFAR100-C 和 ImageNet-C）上的实验结果一致表明，在不同的攻击场景下（包括即时攻击和累积攻击），MedBN 在保持鲁棒性能方面优于现有方法。通过大量实验，我们表明我们的方法即使在没有攻击的情况下也能保持性能，在鲁棒性和性能之间取得了实际平衡。
引用
@article{arxiv.2403.19326,
title = {MedBN: Robust Test-Time Adaptation against Malicious Test Samples},
author = {Hyejin Park and Jeongyeon Hwang and Sunung Mun and Sangdon Park and Jungseul Ok},
journal= {arXiv preprint arXiv:2403.19326},
year = {2024}
}
备注
Accepted to CVPR 2024