保持显著信息的对抗训练提升干净与鲁棒准确率
计算机视觉与模式识别
2025-01-17 v1
摘要
本文引入保持显著信息的对抗训练 (SIP-AT)，这是一种用于缓解传统对抗训练所导致的鲁棒性-准确性权衡的直观方法。SIP-AT 利用显著图像区域指导对抗训练过程，使标注者认为有意义且脆弱的特征在训练期间保持不变，允许模型在不牺牲整体鲁棒性的前提下学习高度可预测的非鲁棒特征。该技术兼容基于人类的显著性估计和自动生成的显著性估计，允许 SIP-AT 作为人类驱动的模型开发的一部分使用，而无需依赖额外的人类数据。我们在多个数据集和架构上进行实验，证明 SIP-AT 能够提升模型的干净准确率，同时在多个 epsilon 水平上保持高度鲁棒性。我们补充了中心实验的观察性研究，测量人类主体成功识别受扰动图像的速率。这项研究有助于建立更直观的理解对抗攻击强度，并说明了对低 epsilon 鲁棒性的重要性。我们的结果表明 SIP-AT 的有效性，并为各种强度的对抗样本风险提供了宝贵的见解。
引用
@article{arxiv.2501.09086,
title = {Salient Information Preserving Adversarial Training Improves Clean and Robust Accuracy},
author = {Timothy Redgrave and Adam Czajka},
journal= {arXiv preprint arXiv:2501.09086},
year = {2025}
}