学习来自同伴:协作式对抗训练
机器学习
2025-09-03 v1
摘要
集成对抗训练(Ensemble Adversarial Training, EAT)旨在利用多个模型提升对对抗攻击的鲁棒性。然而,现有EAT策略倾向于独立训练子模型,忽视子模型间的协作效益。通过对EAT过程的深入分析,我们发现,子模型间分类差异大的样本接近集成决策边界,对集成鲁棒性影响更大。为此,我们提出协作式集成对抗训练(Collaborative Ensemble Adversarial Training, CEAT),突出子模型间的协作学习。具体而言,子模型间预测差异更大的样本,在其他子模型的对抗训练中获得更大关注。CEAT利用概率差异自适应分配样本权重,通过引入校准距离正则化实现。广泛实验表明,我们的方法在众多EAT方法中实现了最先进性能。值得注意的是,CEAT模型无关,可无缝适配各种集成方法,具有灵活的应用性。
引用
@article{arxiv.2509.00089,
title = {Learning from Peers: Collaborative Ensemble Adversarial Training},
author = {Li Dengjin and Guo Yanming and Xie Yuxiang and Li Zheng and Chen Jiangming and Li Xiaolong and Lao Mingrui},
journal= {arXiv preprint arXiv:2509.00089},
year = {2025}
}