用于组合对抗机器学习的博弈论混合专家
机器学习
2023-05-02 v2 人工智能
计算机科学与博弈论
摘要
对抗机器学习的最新进展表明，被认为鲁棒的防御实际上易受专门定制以针对其弱点的对抗攻击。这些防御包括随机变换齐射(BaRT)、友好对抗训练(FAT)、变废为宝(TiT)以及由视觉Transformer(ViT)、大迁移模型和脉冲神经网络(SNN)组成的集成模型。我们首先进行可迁移性分析，以证明针对一种防御的定制攻击生成的对抗样本，通常不会被另一种防御误分类。该发现引出了两个重要问题。第一，如何在博弈论框架中利用防御间的低可迁移性来提升鲁棒性？第二，该框架内的攻击者如何开发有效的多模型攻击？本文中，我们提供了一个用于集成对抗攻击与防御的博弈论框架。我们的框架称为博弈论混合专家(GaME)。它旨在为基于检测器的防御者和标准防御者面对采用组合对抗攻击的攻击者时，寻找混合纳什策略。我们进一步提出了三种新攻击算法，专门设计用于针对具有随机变换、多模型投票机制和对抗检测器架构的防御。这些攻击既强化了GaME框架生成的防御，也验证了其针对未知攻击的鲁棒性。总体而言，我们的框架和分析通过产生对组合攻击与防御公式的新见解，推进了对抗机器学习领域。
引用
@article{arxiv.2211.14669,
title = {Game Theoretic Mixed Experts for Combinational Adversarial Machine Learning},
author = {Ethan Rathbun and Kaleel Mahmood and Sohaib Ahmad and Caiwen Ding and Marten van Dijk},
journal= {arXiv preprint arXiv:2211.14669},
year = {2023}
}
备注
17pages, 10 figures