通过混合卷积实现认证与经验对抗鲁棒性—— attention stochasticity 方法
计算机视觉与模式识别
2026-05-05 v1
摘要
我们提出 Hybrid Convolutions with Attention Stochasticity (HyCAS)，这是一种对抗防御方法，旨在缩小在 L2 证书下的可证明鲁棒性与针对强 L 攻击的经验鲁棒性之间的长期差距，同时保持在多样化影像基准上的强泛化能力。HyCAS 通过将 1-Lipschitz、谱归一化卷积与两个随机组件（谱归一化随机投影滤波器和随机 attention-noise 机制）耦合，实现确定性和随机原则的统一，从而实现随机防御。在架构内部注入平滑随机性，可实现总体 <= 2-Lipschitz 网络，提供形式化证书。广泛在包括 CIFAR-10/100、ImageNet-1k、NIH Chest X-ray、HAM10000 在内的多样化影像基准上进行实验表明，HyCAS 在先前领先的认证和经验防御方面取得显著提升，在 NIH Chest X-ray 上提升认证准确率最高可达 7.3%，在 HAM10000 上提升经验鲁棒性最高可达 3.1%，且不牺牲干净准确率。这些结果表明，随机 Lipschitz 约束架构可以同时提高 L2 认证鲁棒性和 L 对抗经验鲁棒性，从而支持在高风险应用中更安全的深度模型部署。代码：https://github.com/misti1203/HyCAS
关键词
引用
@article{arxiv.2605.01519,
title = {Certified vs. Empirical Adversarial Robust-ness via Hybrid Convolutions with Attention Stochasticity},
author = {Joy Dhar and Song Xia and Manish Kumar Pandey and Maryam Haghighat and Azadeh Alavi and Ferdous Sohel and Wenyu Zhang and Nayyar Zaidi},
journal= {arXiv preprint arXiv:2605.01519},
year = {2026}
}