面向欺骗攻击的鲁棒深度学习集成方法

深度神经网络（DNN）模型已知易受恶意构造的对抗样本以及远离训练数据分布的离群输入所欺骗。如何保护机器学习模型免受这两类破坏性输入的欺骗仍是一项开放挑战。本文提出 XEnsemble，一种多样性集成验证方法，用于增强 DNN 模型抵御由对抗样本或离群输入所引起欺骗的对抗鲁棒性。XEnsemble 在设计上具有三项独特能力。首先，XEnsemble 利用不同的数据清洗技术构建多样化的输入去噪验证器。其次，XEnsemble 提出一种分歧多样性集成学习方法，以保护预测模型输出免受欺骗。第三，XEnsemble 提供一套算法，将输入验证与输出验证相结合，以保护 DNN 预测模型免受对抗样本与离群输入的影响。使用十一种流行对抗攻击与两个代表性离群分布数据集进行评估，我们表明 XEnsemble 对对抗样本实现了高防御成功率，对离群数据输入实现了高检测成功率，并在鲁棒性与可防御性方面优于现有代表性防御方法。