EI-MTD：面向边缘智能抵御对抗攻击的移动目标防御
密码学与安全
2020-11-26 v3 人工智能
计算机视觉与模式识别
机器学习
机器学习
摘要
随着边缘智能的蓬勃发展，其易受对抗攻击的脆弱性成为一个紧迫问题。所谓的对抗样本可以欺骗边缘节点上的深度学习模型使其误分类。由于可迁移性，攻击者可以利用本地替代模型轻松实施黑盒攻击。然而，边缘节点资源的局限性使其无法负担如云端数据中心那样复杂的防御机制。为克服这一挑战，我们提出一种动态防御机制，即EI-MTD。它首先通过云端数据中心复杂教师模型的差分知识蒸馏获得小尺寸的鲁棒成员模型。然后，基于贝叶斯Stackelberg博弈的动态调度策略被应用于服务目标模型的选择。这种动态防御可阻止攻击者选择最优替代模型进行黑盒攻击。我们的实验结果表明，该动态调度在黑盒设定下能有效保护边缘智能抵御对抗攻击。
引用
@article{arxiv.2009.10537,
title = {EI-MTD:Moving Target Defense for Edge Intelligence against Adversarial Attacks},
author = {Yaguan Qian and Qiqi Shao and Jiamin Wang and Xiang Lin and Yankai Guo and Zhaoquan Gu and Bin Wang and Chunming Wu},
journal= {arXiv preprint arXiv:2009.10537},
year = {2020}
}