分离的我们：通过软门控分数混合专家架构配合随机对抗训练以对抗对抗性攻击
机器学习
2026-03-27 v3
摘要
机器学习是一种强大的工具，使我们能够在无需显式编程的情况下完全自动化大量任务。尽管机器学习在不同领域取得了近期进展，但这些模型在面对对抗威胁时仍表现出脆弱性。对抗威胁旨在阻止机器学习模型满足其目标。它们可以创建不可被人类感知到的扰动，但能够在推理过程中引起误分类。在本文中，我们提出了一种防御系统，在混合专家架构中构建对抗训练模块，以增强其对白盒规避攻击的鲁棒性。在我们提出的防御系统中，我们使用九个预训练的分类器（专家），其背bone为 ResNet-18。在端到端训练期间，所有专家的参数和门控机制联合更新，从而进一步优化专家。我们提出的防御系统在 CIFAR-10 和 SVHN 上基于强白盒 FGSM 和 PGD 评估时，优于先前基于 MoE 的防御方法。虽然多个专家的使用会增加相对于单网络基线的训练时间和计算资源，但推理大约呈线性随专家数量增加，而显著低于训练成本。
引用
@article{arxiv.2512.20821,
title = {Divided We Fall: Defending Against Adversarial Attacks via Soft-Gated Fractional Mixture-of-Experts with Randomized Adversarial Training},
author = {Mohammad Meymani and Roozbeh Razavi-Far},
journal= {arXiv preprint arXiv:2512.20821},
year = {2026}
}