桥接模型以防御：一种基于种群的鲁棒对抗防御策略

对抗鲁棒性是衡量神经网络在推理时抵御对抗攻击能力的关键指标。尽管鲁棒训练技术已改进了对单一$\ell_p$-范数攻击（如$\ell_2$或$\ell_\infty$）的防御，模型仍易受多样化$\ell_p$扰动的攻击。为应对此挑战，我们提出一种新颖的面向鲁棒模式连通性（RMC）的对抗防御框架，包含两次基于种群的学习阶段。阶段I中，RMC在两个预训练模型的参数空间中搜索，以构建一条包含对多种$\ell_p$攻击具有高鲁棒性模型的连续路径。为提升效率，我们引入自鲁棒模式连通性（SRMC）模块，加速RMC中的端点生成。基于RMC，阶段II提出基于RMC的优化，将RMC模块组合以进一步增强多样化鲁棒性。为提高阶段II效率，我们提出高效鲁棒模式连通性（ERMC），其利用$\ell_1$-与$\ell_\infty$-对抗训练模型来实现广范围$p$-范数下的鲁棒性。采用集成策略进一步提升ERMC性能。在多种数据集与架构上的大量实验表明，我们的方法显著提升了针对$\ell_\infty$、$\ell_2$、$\ell_1$及混合攻击的鲁棒性。代码见https://github.com/wangren09/MCGR。