面向语义分割的模型级混合专家架构的对抗鲁棒性研究
计算机视觉与模式识别
2024-12-17 v1 机器学习
摘要
对对抗攻击的脆弱性是深度神经网络的一个众所周知缺陷。较大的网络通常更鲁棒，而集成是增加对抗鲁棒性的一种方法：每个模型的弱点由其他模型的优势补偿。虽然集成使用确定性规则组合模型输出，但混合专家（MoE）包含一个额外的可学习门控组件，用于预测专家模型输出的权重，从而决定它们对最终预测的贡献。MoE已被证明在特定任务上优于集成，但其对对抗攻击的敏感性尚未被研究。在这项工作中，我们评估了MoE在城市和高速公路交通场景语义分割中的对抗脆弱性。我们表明，在大多数情况下，MoE对逐实例和通用白盒对抗攻击更鲁棒，并且能更好地抵御迁移攻击。我们的代码可在\url{https://github.com/KASTEL-MobilityLab/mixtures-of-experts/}获取。
引用
@article{arxiv.2412.11608,
title = {Towards Adversarial Robustness of Model-Level Mixture-of-Experts Architectures for Semantic Segmentation},
author = {Svetlana Pavlitska and Enrico Eisen and J. Marius Zöllner},
journal= {arXiv preprint arXiv:2412.11608},
year = {2024}
}
备注
Accepted for publication at ICMLA 2024